WO2020137539A1 - 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム - Google Patents

画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム Download PDF

Info

Publication number
WO2020137539A1
WO2020137539A1 PCT/JP2019/048423 JP2019048423W WO2020137539A1 WO 2020137539 A1 WO2020137539 A1 WO 2020137539A1 JP 2019048423 W JP2019048423 W JP 2019048423W WO 2020137539 A1 WO2020137539 A1 WO 2020137539A1
Authority
WO
WIPO (PCT)
Prior art keywords
motion vector
vector predictor
history
prediction
inter prediction
Prior art date
Application number
PCT/JP2019/048423
Other languages
English (en)
French (fr)
Inventor
英樹 竹原
博哉 中村
智 坂爪
福島　茂
徹 熊倉
宏之 倉重
Original Assignee
株式会社Ｊｖｃケンウッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to CN202310356903.2A priority Critical patent/CN116233465A/zh
Priority to RU2021118226A priority patent/RU2765206C1/ru
Application filed by 株式会社Ｊｖｃケンウッド filed Critical 株式会社Ｊｖｃケンウッド
Priority to CN201980044863.XA priority patent/CN112470477B/zh
Priority to KR1020207037257A priority patent/KR102521264B1/ko
Priority to EP19904357.1A priority patent/EP3905689A4/en
Priority to KR1020237012035A priority patent/KR102719664B1/ko
Priority to CN202110121801.3A priority patent/CN112929674B/zh
Priority to MX2021007754A priority patent/MX2021007754A/es
Priority to CN202310356926.3A priority patent/CN116320479A/zh
Priority to US17/269,931 priority patent/US11503277B2/en
Priority to CN202310356799.7A priority patent/CN116320478A/zh
Priority to BR112021012485-3A priority patent/BR112021012485B1/pt
Publication of WO2020137539A1 publication Critical patent/WO2020137539A1/ja
Priority to US17/962,429 priority patent/US11785211B2/en
Priority to US18/206,894 priority patent/US20230319264A1/en
Priority to US18/206,771 priority patent/US11979562B2/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/527—Global motion vector estimation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction

Definitions

  • the present invention relates to an image encoding and decoding technique that divides an image into blocks and performs prediction.
  • the image to be processed is divided into blocks that are a set of a specified number of pixels, and processing is performed in block units.
  • processing is performed in block units.
  • Patent Document 1 describes a technique of applying an affine transformation at the time of inter prediction. In a moving image, it is not uncommon for an object to undergo deformation such as enlargement/reduction or rotation, and application of the technique of Patent Document 1 enables efficient encoding.
  • Patent Document 1 since the technique of Patent Document 1 involves image conversion, there is a problem that the processing load is large. In view of the above problems, the present invention provides a low-load and efficient encoding technique.
  • the image coding apparatus is a coding information storage unit that adds the inter prediction information used in inter prediction to a history motion vector predictor candidate list, and the history.
  • the history prediction motion vector candidate derivation unit that derives the history prediction motion vector candidate from the prediction motion vector candidate list, and the history merge candidate derivation unit that derives the history merge candidate from the history motion vector predictor candidate list, and the history prediction motion
  • the vector candidate derivation unit and the history merge candidate derivation unit refer to the candidates included in the history motion vector predictor candidate list in a different order to determine the motion vector predictor motion vector candidate or the history merge candidate.
  • the image coding method is a coding information storing step of adding the inter prediction information used in inter prediction to a history motion vector predictor candidate list, and history motion prediction from the history motion vector predictor candidate list.
  • the candidates included in the history motion vector predictor candidate list are referred to in a different order to obtain a motion vector predictor motion vector candidate or a history merge candidate.
  • An image coding program is a coding information storing step of adding the inter prediction information used in inter prediction to a history motion vector predictor candidate list, and history motion prediction from the history motion vector predictor candidate list.
  • a history prediction motion vector candidate derivation step of deriving a motion vector candidate and a history merge candidate derivation step of deriving a history merge candidate from the history prediction motion vector candidate list are executed by a computer, and the history prediction motion vector candidate derivation step and In the history merge candidate derivation step, the candidates included in the history motion vector predictor candidate list are referred to in different orders to obtain a history motion vector predictor candidate or a history merge candidate.
  • An image decoding device is a coding information storage unit that adds the inter prediction information used in inter prediction to a history motion vector predictor candidate list, and a history motion vector predictor from the history motion vector predictor candidate list.
  • a history motion vector predictor candidate derivation unit that derives a vector candidate
  • a history merge candidate derivation unit that derives a history merge candidate from the history motion vector predictor candidate list, the history motion vector predictor candidate derivation unit, and a history merge candidate
  • the deriving unit refers to the candidates included in the history motion vector predictor candidate list in a different order from each other and determines the motion vector motion vector candidate or the history merge candidate.
  • An image decoding method is a coding information storing step of adding the inter prediction information used in inter prediction to a history prediction motion vector candidate list, and a history prediction motion vector from the history prediction motion vector candidate list.
  • the candidates included in the history motion vector predictor candidate list are referred to in a different order from each other to obtain a motion vector predictor motion vector candidate or a history merge candidate.
  • An image decoding program which is a coding information storage step of adding the inter prediction information used in inter prediction to a history motion vector predictor candidate list, and a history from the history motion vector predictor candidate list.
  • a history motion vector predictor candidate derivation step of deriving a motion vector predictor candidate and a history merge candidate derivation step of deriving a history merge candidate from the history motion vector predictor candidate list are performed by the computer, and the history motion vector predictor candidate derivation step is performed.
  • the candidates included in the history motion vector predictor candidate list are referred to in a different order to obtain a history motion vector predictor candidate or a history merge candidate.
  • FIG. 3 is a block diagram of an image encoding device according to an embodiment of the present invention. It is a block diagram of an image decoding device according to an embodiment of the present invention.
  • 7 is a flowchart illustrating an operation of dividing a tree block. It is a figure which shows a mode that the input image is divided into tree blocks. It is a figure explaining z-scan. It is a figure which shows the division
  • FIG. 6 is a flowchart for explaining an operation of dividing a block into four. 6 is a flowchart for explaining an operation of dividing a block into two or three. It is a syntax for expressing the shape of block division. It is a figure for explaining intra prediction. It is a figure for explaining intra prediction. It is a figure for demonstrating the reference block of inter prediction. It is a syntax for expressing a coding block prediction mode. It is a figure which shows the correspondence of the syntax element and mode regarding inter prediction. It is a figure for demonstrating the affine transformation motion compensation of two control points. It is a figure for demonstrating the affine transformation motion compensation of three control points.
  • FIG. 3 is a block diagram of a detailed configuration of an inter prediction unit 102 in FIG. 1.
  • FIG. FIG. 17 is a block diagram of a detailed configuration of a normal motion vector predictor mode deriving unit 301 in FIG. 16.
  • FIG. 17 is a block diagram of a detailed configuration of a normal merge mode derivation unit 302 in FIG. 16.
  • 17 is a flowchart for explaining a normal motion vector predictor mode derivation process of the normal motion vector predictor mode deriving unit 301 in FIG. 16. It is a flow chart showing a processing procedure of normal prediction motion vector mode derivation processing. It is a flow chart explaining the processing procedure of normal merge mode derivation processing.
  • 3 is a block diagram of a detailed configuration of an inter prediction unit 203 in FIG. 2.
  • FIG. 23 is a block diagram of a detailed configuration of a normal motion vector predictor mode deriving unit 401 in FIG. 22.
  • FIG. FIG. 23 is a block diagram of a detailed configuration of a normal merge mode derivation unit 402 in FIG. 22.
  • 23 is a flowchart for explaining the normal motion vector predictor mode derivation process of the normal motion vector predictor mode deriving unit 401 in FIG. 22. It is a figure explaining a history motion vector predictor candidate list initialization and update processing procedure.
  • 11 is a flowchart of the same element confirmation processing procedure in the history motion vector predictor candidate list initialization/update processing procedure.
  • 11 is a flowchart of an element shift processing procedure in a history motion vector predictor candidate list initialization/update processing procedure.
  • Fig. 3 is a diagram for describing a prediction direction of motion-compensated prediction in the case of bi-prediction and a reference picture for L0 prediction and a reference picture for L1 prediction are at a time before a picture to be processed.
  • Fig. 3 is a diagram for describing a prediction direction of motion compensation prediction in the case of bi-prediction and a reference picture for L0 prediction and a reference picture for L1 prediction are at a time later than a picture to be processed.
  • 11 is a table showing another example of the history motion vector predictor candidates added by the initialization of the history motion vector predictor candidate list.
  • 11 is a table showing another example of the history motion vector predictor candidates added by the initialization of the history motion vector predictor candidate list.
  • 11 is a table showing another example of the history motion vector predictor candidates added by the initialization of the history motion vector predictor candidate list. It is a figure for demonstrating the structure of a history prediction motion vector candidate list. It is a figure for explaining a mode that a head element is deleted at the time of addition to a history prediction motion vector candidate list.
  • the encoding/decoding processing target image is equally divided into a predetermined size.
  • This unit is defined as a tree block.
  • the size of the tree block is 128 ⁇ 128 pixels in FIG. 4, the size of the tree block is not limited to this, and any size may be set.
  • the tree blocks to be processed (corresponding to the encoding target in the encoding process and the decoding target in the decoding process) are switched in raster scan order, that is, from left to right and from top to bottom. The inside of each tree block can be further recursively divided.
  • a block to be encoded/decoded after the tree block is recursively divided is defined as an encoded block.
  • the tree block and the coding block are collectively defined as a block. Efficient encoding is possible by performing appropriate block division.
  • the size of the tree block can be a fixed value pre-arranged by the encoding device and the decoding device, or the size of the tree block determined by the encoding device can be transmitted to the decoding device.
  • the maximum size of the tree block is 128 ⁇ 128 pixels
  • the minimum size of the tree block is 16 ⁇ 16 pixels.
  • the maximum size of the coded block is 64x64 pixels
  • the minimum size of the coded block is 4x4 pixels.
  • Intra prediction that performs prediction from the processed image signal of the processing target image
  • inter prediction MODE_INTER
  • the processed image is used for an image obtained by decoding a signal that has been encoded in the encoding process, an image signal, a tree block, a block, an encoded block, etc., and an image, an image signal, for which the decoding has been completed in the decoding process. Used for tree blocks, blocks, coding blocks, etc.
  • the prediction mode (PredMode) has intra prediction (MODE_INTRA) or inter prediction (MODE_INTER) as a value.
  • L0 prediction is available for P slices.
  • Pred_L0 L0 prediction
  • Pred_L1 L1 prediction
  • Pred_BI bi-prediction
  • L0 prediction is inter prediction that refers to a reference picture managed by L0
  • L1 prediction is inter prediction that refers to a reference picture managed by L1.
  • Bi-prediction is inter prediction in which both L0 prediction and L1 prediction are performed and one reference picture managed by each of L0 and L1 is referred to.
  • Information that specifies L0 prediction, L1 prediction, and bi-prediction is defined as an inter prediction mode. In the subsequent processing, it is premised that the processing is performed for each of L0 and L1 for the constants and variables with the subscript LX attached to the output.
  • the motion vector predictor mode is a mode in which an index for specifying a motion vector predictor, a differential motion vector, an inter prediction mode, and a reference index are transmitted to determine inter prediction information of a block to be processed.
  • the motion vector predictor includes a motion vector predictor candidate derived from a processed block adjacent to the process target block, or a block belonging to the processed image and located at the same position as the process target block or in the vicinity (neighboring) of the process target block, and the motion vector predictor. It is derived from the index for identifying the vector.
  • the merge mode is a processed block that is adjacent to the processing target block without transmitting the differential motion vector or the reference index, or a block that belongs to the processed image and is located at the same position as the processing target block or in the vicinity thereof (nearby). This is a mode for deriving the inter prediction information of the processing target block from the inter prediction information of.
  • the processed block adjacent to the block to be processed and the inter prediction information of the processed block as spatial merge candidates.
  • a block that belongs to the processed image and is located at the same position as or near (the vicinity of) the block to be processed and the inter prediction information derived from the inter prediction information of the block are defined as temporal merge candidates.
  • Each merge candidate is registered in the merge candidate list, and the merge index is used to identify the merge candidate used for prediction of the block to be processed.
  • FIG. 11 is a diagram illustrating reference blocks referred to in order to derive inter prediction information in the motion vector predictor mode and the merge mode.
  • A0, A1, A2, B0, B1, B2, B3 are processed blocks adjacent to the processing target block.
  • T0 is a block belonging to the processed image, which is located at the same position as the processing target block in the processing target image or in the vicinity (neighborhood) thereof.
  • A1 and A2 are blocks located on the left side of the processing target coding block and adjacent to the processing target coding block.
  • B1 and B3 are blocks located above the coding block to be processed and adjacent to the coding block to be processed.
  • A0, B0, and B2 are blocks located at the lower left, upper right, and upper left of the process target coding block, respectively.
  • Affine transform motion compensation is to perform motion compensation by dividing a coded block into sub-blocks of a predetermined unit and individually determining a motion vector for each of the divided sub-blocks.
  • the motion vector of each sub-block is derived from inter prediction information of a processed block adjacent to the processing target block, or a block belonging to the processed image and located at the same position as the processing target block or in the vicinity (neighborhood) thereof 1 It derives based on one or more control points.
  • the size of the sub block is 4 ⁇ 4 pixels, but the size of the sub block is not limited to this, and the motion vector may be derived in pixel units.
  • FIG. 14 shows an example of affine transformation motion compensation when there are two control points.
  • the two control points have two parameters, a horizontal component and a vertical component. Therefore, the affine transformation when there are two control points is called a four-parameter affine transformation.
  • CP1 and CP2 in FIG. 14 are control points.
  • FIG. 15 shows an example of affine transformation motion compensation when there are three control points. In this case, the three control points have two parameters, a horizontal component and a vertical component. Therefore, the affine transformation when there are three control points is called a 6-parameter affine transformation.
  • CP1, CP2, and CP3 in FIG. 15 are control points.
  • Affine transform motion compensation can be used in both the motion vector predictor mode and the merge mode.
  • the mode in which the affine transform motion compensation is applied in the motion vector predictor mode is defined as the sub-block motion vector predictor mode
  • the mode in which the affine transform motion compensation is applied in the merge mode is defined as the sub-block merge mode.
  • the merge_flag in FIG. 12 is a flag indicating whether the process target coding block is in the merge mode or the motion vector predictor mode.
  • merge_affine_flag is a flag indicating whether or not the sub-block merge mode is applied to the processing target coding block in the merge mode.
  • inter_affine_flag is a flag indicating whether or not to apply the sub-block motion vector predictor mode in the processing target coding block of the motion vector predictor mode.
  • cu_affine_type_flag is a flag for determining the number of control points in the sub-block motion vector predictor mode.
  • FIG. 13 shows the value of each syntax element and the corresponding prediction method.
  • the normal merge mode is a merge mode that is not a sub-block merge.
  • the normal motion vector predictor mode is a motion vector predictor merge that is not the sub-block motion vector predictor mode.
  • POC Picture Order Count
  • POC Picture Order Count
  • FIG. 1 is a block diagram of an image encoding device 100 according to the first embodiment.
  • the image coding apparatus 100 includes a block division unit 101, an inter prediction unit 102, an intra prediction unit 103, a decoded image memory 104, a prediction method determination unit 105, a residual generation unit 106, an orthogonal transformation/quantization unit 107.
  • the block dividing unit 101 recursively divides the input image to generate a coded block.
  • the block division unit 101 includes a four division unit that divides a block to be divided into a horizontal direction and a vertical direction, and a 2-3 division unit that divides a block to be divided into either a horizontal direction or a vertical direction. Including.
  • the block division unit 101 sets the generated coding block as a processing target coding block, and supplies the image signal of the processing target coding block to the inter prediction unit 102, the intra prediction unit 103, and the residual generation unit 106.
  • the block division unit 101 also supplies information indicating the determined recursive division structure to the bit string encoding unit 108. The detailed operation of the block division unit 101 will be described later.
  • the inter prediction unit 102 performs inter prediction of the coding block to be processed.
  • the inter prediction unit 102 derives a plurality of inter prediction information candidates from the inter prediction information stored in the encoded information storage memory 111 and the decoded image signal stored in the decoded image memory 104, An appropriate inter prediction mode is selected from the derived plurality of candidates, and the selected inter prediction mode and the predicted image signal corresponding to the selected inter prediction mode are supplied to the prediction method determination unit 105.
  • the detailed configuration and operation of the inter prediction unit 102 will be described later.
  • the intra prediction unit 103 performs intra prediction of the process target coding block.
  • the intra prediction unit 103 refers to the decoded image signal stored in the decoded image memory 104 as a reference pixel, and performs intra prediction based on the coding information such as the intra prediction mode stored in the coding information storage memory 111. To generate a predicted image signal.
  • the intra prediction unit 103 selects a suitable intra prediction mode from a plurality of intra prediction modes, and predicts a selected intra prediction mode and a prediction image signal corresponding to the selected intra prediction mode. It is supplied to the determining unit 105.
  • FIGS. 10A and 10B An example of intra prediction is shown in FIGS. 10A and 10B.
  • FIG. 10A shows the correspondence between the prediction direction of intra prediction and the intra prediction mode number.
  • the intra prediction mode 50 generates an intra prediction image by copying the reference pixel in the vertical direction.
  • the intra prediction mode 1 is a DC mode in which all the pixel values of the processing target block are the average value of the reference pixels.
  • Intra prediction mode 0 is a Planar mode, and is a mode in which a two-dimensional intra prediction image is created from reference pixels in the vertical and horizontal directions.
  • FIG. 10B is an example of generating an intra prediction image in the case of the intra prediction mode 40.
  • the intra prediction unit 103 copies the value of the reference pixel in the direction indicated by the intra prediction mode for each pixel of the processing target block. When the reference pixel in the intra prediction mode is not an integer position, the intra prediction unit 103 determines the reference pixel value by interpolation from the reference pixel values at the surrounding integer positions.
  • the decoded image memory 104 stores the decoded image generated by the decoded image signal superimposing unit 110.
  • the decoded image memory 104 supplies the stored decoded image to the inter prediction unit 102 and the intra prediction unit 103.
  • the prediction method determination unit 105 evaluates each of the intra prediction and the inter prediction by using the coding amount of the coding information and the residual, the distortion amount between the predicted image signal and the processing target image signal, and the like. , Determine the optimal prediction mode.
  • the prediction method determination unit 105 supplies intra prediction information such as the intra prediction mode to the bit string coding unit 108 as coding information.
  • the prediction method determination unit 105 uses the inter-prediction information such as the merge index and information (sub-block merge flag) indicating whether or not the sub-block merge mode is the bit string encoding unit 108 as the encoding information. Supply to.
  • the prediction method determination unit 105 is information indicating whether the inter prediction mode, the motion vector predictor index, the reference indexes of L0 and L1, the differential motion vector, and the sub block motion vector predictor mode. Inter prediction information such as (sub-block motion vector predictor flag) is supplied to the bit string coding unit 108 as coding information. Furthermore, the prediction method determination unit 105 supplies the determined coding information to the coding information storage memory 111. The prediction method determination unit 105 supplies the residual error generation unit 106 and the predicted image signal to the decoded image signal superposition unit 110.
  • the residual generation unit 106 generates a residual by subtracting the predicted image signal from the image signal to be processed, and supplies the residual to the orthogonal transformation/quantization unit 107.
  • the orthogonal transformation/quantization unit 107 performs orthogonal transformation and quantization on the residual according to the quantization parameter to generate an orthogonal transformation/quantized residual, and the generated residual is the bit string encoding unit 108. And the inverse quantization/inverse orthogonal transformation unit 109.
  • the bit string coding unit 108 codes coding information according to the prediction method determined by the prediction method determination unit 105 for each coding block, in addition to information on a sequence, picture, slice, and coding block unit. Specifically, the bit string coding unit 108 codes the prediction mode PredMode for each coding block.
  • the bit string encoding unit 108 determines whether or not the mode is the merge mode, the sub-block merge flag, the merge index in the case of the merge mode, the inter prediction mode in the case of not the merge mode, Coding information (inter prediction information) such as a motion vector predictor index, information about a differential motion vector, and a sub-block motion vector predictor flag is coded according to a prescribed syntax (syntax rule of bit string) to generate a first bit string.
  • the prediction mode is intra prediction (MODE_INTRA)
  • the coding information intra prediction information
  • intra prediction mode is coded according to the prescribed syntax (bit string syntax rule) to generate the first bit string.
  • bit string encoding unit 108 entropy-encodes the orthogonally transformed and quantized residual according to a prescribed syntax to generate a second bit string.
  • the bit string encoding unit 108 multiplexes the first bit string and the second bit string according to a prescribed syntax and outputs a bit stream.
  • the inverse quantization/inverse orthogonal transformation unit 109 performs inverse quantization and inverse orthogonal transformation on the orthogonal transformation/quantized residual supplied from the orthogonal transformation/quantization unit 107 to calculate the residual, and the calculated residual. The difference is supplied to the decoded image signal superimposing unit 110.
  • the decoded image signal superimposing unit 110 superimposes the prediction image signal according to the determination made by the prediction method determining unit 105 and the residuals that have been inversely quantized and inversely orthogonally transformed by the inverse quantization/inverse orthogonal transformation unit 109 to obtain a decoded image. It is generated and stored in the decoded image memory 104. Note that the decoded image signal superimposing unit 110 may store the decoded image in the decoded image memory 104 after performing a filtering process on the decoded image to reduce distortion such as block distortion due to encoding.
  • the coding information storage memory 111 stores the coding information such as the prediction mode (inter prediction or intra prediction) determined by the prediction method determination unit 105.
  • the coding information stored in the coding information storage memory 111 includes inter prediction information such as the determined motion vector, the reference index of the reference lists L0 and L1, the history prediction motion vector candidate list, and the like.
  • the coding information stored in the coding information storage memory 111 includes, in addition to the above-described information, information indicating whether or not the merge index and the sub block merge mode (sub block merge flag). ) Inter prediction information is included.
  • the coding information stored in the coding information storage memory 111 includes the inter prediction mode, the motion vector predictor index, the difference motion vector, and the sub block prediction in addition to the above-mentioned information.
  • Inter prediction information such as information (sub-block prediction motion vector flag) indicating whether or not the motion vector mode is included.
  • the coding information stored in the coding information storage memory 111 includes intra prediction information such as the determined intra prediction mode.
  • FIG. 2 is a block diagram showing a configuration of an image decoding device according to an embodiment of the present invention, which corresponds to the image encoding device of FIG.
  • the image decoding apparatus includes a bit string decoding unit 201, a block dividing unit 202, an inter prediction unit 203, an intra prediction unit 204, an encoded information storage memory 205, an inverse quantization/inverse orthogonal transform unit 206, and a decoded image signal superimposition.
  • a unit 207 and a decoded image memory 208 are provided.
  • the decoding process of the image decoding device in FIG. 2 corresponds to the decoding process provided inside the image coding device in FIG. 1, so the coding information storage memory 205 in FIG.
  • the configurations of the orthogonal transformation unit 206, the decoded image signal superimposing unit 207, and the decoded image memory 208 are as follows: the coding information storage memory 111, the inverse quantization/inverse orthogonal transformation unit 109, and the decoded image signal of the image encoding device in FIG. It has a function corresponding to each configuration of the superimposing unit 110 and the decoded image memory 104.
  • the bit stream supplied to the bit string decoding unit 201 is separated in accordance with the prescribed syntax rule.
  • the bit string decoding unit 201 decodes the separated first bit string to obtain a sequence, a picture, a slice, information in units of coding blocks, and coding information in units of coding blocks. Specifically, the bit string decoding unit 201 decodes the prediction mode PredMode that determines whether the prediction is inter prediction (MODE_INTER) or intra prediction (MODE_INTRA) for each coding block.
  • PredMode that determines whether the prediction is inter prediction (MODE_INTER) or intra prediction (MODE_INTRA) for each coding block.
  • the bit string decoding unit 201 determines a flag for determining whether the mode is the merge mode, a merge index in the merge mode, a sub-block merge flag, and an inter prediction in the motion vector predictor mode.
  • the coding information (inter prediction information) about the mode, the motion vector predictor index, the difference motion vector, the sub-block motion vector predictor flag, etc. is decoded according to the prescribed syntax, and the coding information (inter prediction information) is inter-prediction unit 203, And to the encoded information storage memory 205 via the block division unit 202.
  • the prediction mode is intra prediction (MODE_INTRA)
  • the coding information (intra prediction information) such as the intra prediction mode is decoded according to the prescribed syntax, and the coding information (intra prediction information) is decoded into the inter prediction unit 203 or the intra prediction unit. It is supplied to the coded information storage memory 205 via the block 204 and the block division unit 202.
  • the bit string decoding unit 201 decodes the separated second bit string to calculate an orthogonally transformed/quantized residual, and supplies the orthogonally transformed/quantized residual to the inverse quantization/inverse orthogonal transforming unit 206. To do.
  • the inter prediction unit 203 when the prediction mode PredMode of the coding block to be processed is inter prediction (MODE_INTER) and is the motion vector predictor mode, codes the already decoded image signal stored in the coding information storage memory 205.
  • a plurality of motion vector predictor candidates are derived using the conversion information, and the derived plurality of motion vector predictor candidates are registered in a motion vector predictor candidate list to be described later.
  • the inter prediction unit 203 selects, from among the plurality of motion vector predictor candidates registered in the motion vector predictor candidate list, a motion vector predictor according to the motion vector predictor index decoded and supplied by the bit string decoding unit 201, A motion vector is calculated from the differential motion vector decoded by the bit string decoding unit 201 and the selected motion vector predictor, and the calculated motion vector is stored in the coding information storage memory 205 together with other coding information.
  • the coding information of the coding block supplied/stored here is a flag predFlagL0[xP][yP], predFlagL1[xP][yP], which indicates whether or not to use the prediction modes PredMode, L0 prediction, and L1 prediction.
  • xP and yP are indexes indicating the position of the upper left pixel of the encoded block in the picture.
  • PredMode is inter prediction (MODE_INTER) and the inter prediction mode is L0 prediction (Pred_L0)
  • the flag predFlagL0 that indicates whether to use L0 prediction is 1, and the flag predFlagL1 that indicates whether to use L1 prediction Is 0.
  • the flag predFlagL0 indicating whether to use L0 prediction is 0, and the flag predFlagL1 indicating whether to use L1 prediction is 1.
  • the inter prediction mode is bi-prediction (Pred_BI)
  • both the flag predFlagL0 indicating whether to use L0 prediction and the flag predFlagL1 indicating whether to use L1 prediction are 1.
  • the prediction mode PredMode of the coding block to be processed is inter prediction (MODE_INTER) and the merge mode, a merge candidate is derived.
  • a plurality of merge candidates are derived and registered in the merge candidate list described later, and registered in the merge candidate list.
  • xP and yP are indexes indicating the position of the upper left pixel of the encoded block in the picture.
  • the intra prediction unit 204 performs intra prediction when the prediction mode PredMode of the target coding block is intra prediction (MODE_INTRA).
  • the coded information decoded by the bit string decoding unit 201 includes the intra prediction mode.
  • the intra prediction unit 204 generates a predicted image signal by intra prediction from the decoded image signal stored in the decoded image memory 208 according to the intra prediction mode included in the encoded information decoded by the bit string decoding unit 201. Then, the generated predicted image signal is supplied to the decoded image signal superimposing unit 207.
  • the intra prediction unit 204 corresponds to the intra prediction unit 103 of the image encoding device 100, and therefore performs the same process as the intra prediction unit 103.
  • the inverse quantization/inverse orthogonal transformation unit 206 performs inverse orthogonal transformation and inverse quantization on the orthogonal transformation/quantized residual decoded by the bit string decoding unit 201, and is subjected to inverse orthogonal transformation/inverse quantization. Get the residuals.
  • the decoded image signal superimposing unit 207 and the predictive image signal inter-predicted by the inter predicting unit 203 or the predictive image signal intra-predicted by the intra predicting unit 204, and the inverse orthogonal transform/inverse orthogonal transform unit 206 perform the inverse orthogonal transform/inverse orthogonal transform.
  • the decoded image signal is decoded by superimposing the dequantized residual, and the decoded decoded image signal is stored in the decoded image memory 208.
  • the decoded image signal superimposing unit 207 may perform filtering processing on the decoded image to reduce block distortion due to encoding, and then store the decoded image signal in the decoded image memory 208. ..
  • FIG. 3 is a flowchart showing an operation of dividing an image into tree blocks and further dividing each tree block.
  • the input image is divided into tree blocks of a predetermined size (step S1001).
  • Each tree block is scanned in a predetermined order, that is, in raster scan order (step S1002), and the inside of the tree block to be processed is divided (step S1003).
  • FIG. 7 is a flowchart showing the detailed operation of the division processing in step S1003. First, it is determined whether or not the block to be processed is divided into four (step S1101).
  • the processing target block is divided into four (step S1102).
  • Each block obtained by dividing the block to be processed is scanned in the Z scan order, that is, in the order of upper left, upper right, lower left, and lower right (step S1103).
  • FIG. 5 is an example of the Z scan order
  • 601 of FIG. 6A is an example in which the processing target block is divided into four.
  • the numbers 0 to 3 in 601 of FIG. 6A indicate the order of processing.
  • the division processing of FIG. 7 is recursively executed (step S1104).
  • step S1105) If it is determined that the block to be processed is not divided into four, 2-3 division is performed (step S1105).
  • FIG. 8 is a flowchart showing the detailed operation of the 2-3 division process of step S1105. First, it is determined whether or not the block to be processed is divided into 2-3, that is, whether to divide into 2 or 3 (step S1201).
  • step S1211 the division is ended (step S1211).
  • the block divided by the recursive division process is not further recursively divided.
  • step S1202 it is further determined whether or not the block to be processed is further divided into two.
  • step S1203 it is determined whether or not the processing target block is divided into upper and lower parts (vertical direction) (step S1203), and based on the result, the processing target block is vertically (vertical direction) divided.
  • the block to be processed is divided into two (step S1204) or the block to be processed is divided into left and right (horizontal direction) into two (step S1205).
  • step S1204 the processing target block is divided into upper and lower (vertical direction) halves as indicated by 602 in FIG. 6B.
  • step S1205 the processing target block is left and right (horizontal) as shown in 604 of FIG. 6D. Direction) divided into two.
  • step S1202 If it is not determined in step S1202 that the block to be processed is divided into two, that is, if it is determined that the block is to be divided into three, it is determined whether the block to be processed is divided into upper, middle, and lower (vertical direction) (step S1206). ), based on the result, the block to be processed is divided into upper, middle and lower (vertical direction) into three (step S1207), or the block to be processed is divided into left, middle and right (horizontal direction) into three (step S1208). As a result of step S1207, the processing target block is divided into upper, middle, lower (vertical direction) three divisions as shown by 603 in FIG. 6C, and as a result of step S1208, the processing target block is left as shown by 605 in FIG. 6E. Middle right (horizontal direction) divided into three.
  • step S1209 After executing any of step S1204, step S1205, step S1207, and step S1208, each block obtained by dividing the block to be processed is scanned from left to right and from top to bottom (step S1209).
  • the numbers 0 to 2 of 602 to 605 in FIGS. 6B to 6E indicate the order of processing.
  • the 2-3 division process of FIG. 8 is recursively executed (step S1210).
  • the necessity of division may be limited depending on the number of divisions or the size of the block to be processed.
  • the information that restricts the necessity of division may be realized in a configuration in which information is not transmitted by making an agreement in advance between the encoding device and the decoding device, or the encoding device limits the necessity of division. It may be realized by a configuration in which the information to be determined is recorded and recorded in a bit string and transmitted to the decoding device.
  • each block after the division is called the child block.
  • the block division unit 202 divides a tree block by the same processing procedure as the block division unit 101 of the image encoding device 100.
  • the block division unit 101 of the image coding apparatus 100 applies an optimization method such as estimation of an optimum shape by image recognition or optimization of a distortion rate to determine the optimum shape of block division, whereas the image decoding apparatus
  • the block division unit 202 in 200 is different in that the block division shape is determined by decoding the block division information recorded in the bit string.
  • FIG. 9 shows the syntax (syntax rule of bit string) regarding the block division of the first embodiment.
  • coding_quadtree() represents the syntax for block quadrant processing.
  • multi_type_tree() represents the syntax for the block division or division into three.
  • each block divided into 4 is recursively divided into 4 (coding_quadtree(0), coding_quadtree(1), coding_quadtree(2), coding_quadtree(3), 0 to argument 3 corresponds to the number 601 in FIG. 6A).
  • mtt_split is a flag indicating whether or not to further divide.
  • mtt_split_vertical that is a flag indicating whether to divide vertically or horizontally
  • mtt_split_binary that is a flag that determines whether to divide into two or three are transmitted.
  • each divided block is subjected to recursive division processing (multi_type_tree(0), multi_type_tree(1), 0 to 1 of arguments are 602 or 604 of FIGS. 6B to D. Corresponds to the number.).
  • multi_type_tree(0), multi_type_tree(1), multi_type_tree(2), 0 to 2 are 603 in FIG. It corresponds to the number 605 of 6E.).
  • the inter prediction method according to the embodiment is implemented in the inter prediction unit 102 of the image coding apparatus of FIG. 1 and the inter prediction unit 203 of the image decoding apparatus of FIG.
  • the inter prediction method according to the embodiment will be described with reference to the drawings.
  • the inter-prediction method is carried out in both coding and decoding processing in coding block units.
  • FIG. 16 is a diagram showing a detailed configuration of the inter prediction unit 102 of the image coding apparatus in FIG.
  • the normal motion vector predictor mode deriving unit 301 derives a plurality of normal motion vector predictor candidates, selects a motion vector predictor, and calculates a difference motion vector between the selected motion vector predictor and the detected motion vector.
  • the detected inter prediction mode, reference index, motion vector, and calculated differential motion vector serve as inter prediction information in the normal motion vector predictor mode. This inter prediction information is supplied to the inter prediction mode determination unit 305.
  • the detailed configuration and processing of the normal motion vector predictor mode deriving unit 301 will be described later.
  • the normal merge mode deriving unit 302 derives a plurality of normal merge candidates, selects a normal merge candidate, and obtains inter prediction information of the normal merge mode. This inter prediction information is supplied to the inter prediction mode determination unit 305. The detailed configuration and processing of the normal merge mode derivation unit 302 will be described later.
  • the sub-block motion vector predictor mode deriving unit 303 derives a plurality of sub-block motion vector predictor candidates, selects a sub-block motion vector predictor, and calculates a difference motion vector between the selected sub-block motion vector predictor and the detected motion vector. calculate.
  • the detected inter prediction mode, reference index, motion vector, and calculated differential motion vector serve as inter prediction information in the sub-block prediction motion vector mode. This inter prediction information is supplied to the inter prediction mode determination unit 305.
  • the sub-block merge mode deriving unit 304 derives a plurality of sub-block merge candidates, selects a sub-block merge candidate, and obtains inter prediction information in the sub-block merge mode. This inter prediction information is supplied to the inter prediction mode determination unit 305.
  • the inter prediction mode determination unit 305 is based on the inter prediction information supplied from the normal motion vector predictor mode derivation unit 301, the normal merge mode derivation unit 302, the sub block motion vector predictor mode derivation unit 303, and the sub block merge mode derivation unit 304. , Inter prediction information is determined.
  • the inter prediction mode determination unit 305 supplies inter prediction information according to the determination result to the motion compensation prediction unit 306.
  • the motion compensation prediction unit 306 performs inter prediction on the reference image signal stored in the decoded image memory 104 based on the determined inter prediction information. The detailed configuration and processing of the motion compensation prediction unit 306 will be described later.
  • ⁇ Description of Inter Prediction Unit 203 on Decoding Side> 22 is a diagram showing a detailed configuration of the inter prediction unit 203 of the image decoding apparatus in FIG.
  • the normal motion vector predictor mode deriving unit 401 derives a plurality of normal motion vector predictor candidates, selects a motion vector predictor, and calculates an addition value of the selected motion vector predictor and the decoded differential motion vector to obtain a motion vector. To do.
  • the decoded inter prediction mode, reference index, and motion vector serve as inter prediction information in the normal motion vector predictor mode. This inter prediction information is supplied to the motion compensation prediction unit 406 via the switch 408. The detailed configuration and processing of the normal motion vector predictor mode deriving unit 401 will be described later.
  • the normal merge mode derivation unit 402 derives a plurality of normal merge candidates, selects a normal merge candidate, and obtains inter prediction information in the normal merge mode. This inter prediction information is supplied to the motion compensation prediction unit 406 via the switch 408. The detailed configuration and processing of the normal merge mode derivation unit 402 will be described later.
  • the sub-block motion vector predictor mode deriving unit 403 derives a plurality of sub-block motion vector predictor candidates, selects a sub-block motion vector predictor, and calculates the sum of the selected sub-block motion vector predictor and the decoded differential motion vector. It is calculated and used as a motion vector.
  • the decoded inter prediction mode, reference index, and motion vector serve as inter prediction information in the sub-block prediction motion vector mode. This inter prediction information is supplied to the motion compensation prediction unit 406 via the switch 408.
  • the sub-block merge mode deriving unit 404 derives a plurality of sub-block merge candidates, selects a sub-block merge candidate, and obtains inter prediction information in the sub-block merge mode. This inter prediction information is supplied to the motion compensation prediction unit 406 via the switch 408.
  • the motion compensation prediction unit 406 performs inter prediction on the reference image signal stored in the decoded image memory 208 based on the determined inter prediction information.
  • the detailed configuration and processing of the motion compensation prediction unit 406 are the same as those of the motion compensation prediction unit 306 on the encoding side.
  • the normal motion vector predictor mode derivation unit 301 in FIG. 17 includes a spatial motion vector predictor candidate derivation unit 321, a temporal motion vector predictor candidate derivation unit 322, a history motion vector predictor candidate derivation unit 323, a motion vector predictor candidate supplementation unit 325, and a normal motion.
  • the vector detection unit 326, the motion vector predictor candidate selection unit 327, and the motion vector subtraction unit 328 are included.
  • the normal motion vector predictor mode derivation unit 401 in FIG. 23 includes a spatial motion vector predictor candidate derivation unit 421, a temporal motion vector predictor candidate derivation unit 422, a history motion vector predictor candidate derivation unit 423, a motion vector predictor candidate replenishment unit 425, and a motion predictive motion.
  • a vector candidate selection unit 426 and a motion vector addition unit 427 are included.
  • FIG. 19 is a flowchart showing the procedure of the normal motion vector predictor mode deriving processing by the normal motion vector mode deriving section 301 on the encoding side
  • FIG. 25 is the normal motion vector predictor mode deriving processing by the normal motion vector mode deriving section 401 on the decoding side. It is a flowchart which shows a procedure.
  • Normal motion vector predictor (normal AMVP): Description of coding side> The normal motion vector predictor mode derivation process procedure on the encoding side will be described with reference to FIG. In the description of the processing procedure of FIG. 19, the word “normal” shown in FIG. 19 may be omitted.
  • the normal motion vector detection unit 326 detects a normal motion vector for each inter prediction mode and reference index (step S100 in FIG. 19).
  • the differential motion vector of the motion vector used in the inter prediction in the normal motion vector predictor mode is calculated for each of L0 and L1 (steps S101 to S106 in FIG. 19).
  • the prediction mode PredMode of the target block is inter prediction (MODE_INTER) and the inter prediction mode is L0 prediction (Pred_L0)
  • the motion vector predictor candidate list mvpListL0 of L0 is calculated and the motion vector predictor mvpL0 is selected.
  • the differential motion vector mvdL0 of the motion vector mvL0 of L0 is calculated.
  • the inter prediction mode of the block to be processed is L1 prediction (Pred_L1)
  • the motion vector predictor candidate list mvpListL1 of L1 is calculated, the motion vector predictor mvpL1 is selected, and the differential motion vector mvdL1 of the motion vector mvL1 of L1 is calculated. ..
  • both L0 prediction and L1 prediction are performed, a motion vector predictor candidate list mvpListL0 of L0 is calculated, and a motion vector predictor mvpL0 of L0 is selected, and L0 is calculated.
  • Motion vector mvL0 differential motion vector mvdL0 is calculated, L1 motion vector predictor candidate list mvpListL1 is calculated, L1 motion vector predictor mvpL1 is calculated, and L1 motion vector mvL1 differential motion vector mvdL1 is calculated. To do.
  • L0 and L1 are represented as common LX.
  • the X of LX is 0, and in the process of calculating the differential motion vector of L1, the X of LX is 1.
  • the other list is represented as LY.
  • the motion vector predictor candidate of LX is calculated and the motion vector predictor candidate list mvpListLX of LX is constructed (step S103 of FIG. 19).
  • the spatial motion vector predictor candidate deriving unit 321, the temporal motion vector predictor candidate deriving unit 322, the history motion vector predictor candidate deriving unit 323, and the motion vector predictor candidate replenishing unit 325 include a plurality of motion predictive motions.
  • the motion vector candidate list mvpListLX is constructed by deriving vector candidates.
  • the motion vector predictor candidate selection unit 327 selects the motion vector predictor mvpLX of LX from the motion vector predictor candidate list of LX mvpListLX (step S104 in FIG. 19).
  • the motion vector predictor candidate list mvpListLX one certain element (i-th element counting from 0) is represented as mvpListLX[i].
  • Each difference motion vector that is the difference between the motion vector mvLX and each motion vector predictor candidate mvpListLX[i] stored in the motion vector predictor candidate list mvpListLX is calculated.
  • a code amount when the difference motion vectors are encoded is calculated for each element (predictive motion vector candidate) of the motion vector predictor candidate list mvpListLX. Then, among the elements registered in the motion vector predictor candidate list mvpListLX, the motion vector predictor candidate mvpListLX[i] that minimizes the code amount for each motion vector predictor candidate is selected as the motion vector predictor mvpLX, and Get the index i.
  • the motion vector predictor represented by a smaller index i in the motion vector predictor candidate list mvpListLX When there are a plurality of motion vector predictor candidates having the smallest amount of generated code in the motion vector predictor candidate list mvpListLX, the motion vector predictor represented by a smaller index i in the motion vector predictor candidate list mvpListLX.
  • the candidate mvpListLX[i] of is selected as the optimum motion vector predictor mvpLX and its index i is acquired.
  • Normal motion vector predictor (normal AMVP): Description of decoding side>
  • the normal motion vector predictor mode processing procedure on the decoding side will be described with reference to FIG.
  • the spatial motion vector predictor candidate derivation unit 421, the temporal motion vector predictor candidate derivation unit 422, the history motion vector predictor candidate derivation unit 423, and the motion vector predictor candidate supplementation unit 425 are used in inter prediction in the normal motion vector predictor mode.
  • the motion vector is calculated for each of L0 and L1 (steps S201 to S206 in FIG. 25).
  • the prediction motion vector candidate list mvpListL0 of L0 is calculated, and the prediction motion is calculated.
  • the vector mvpL0 is selected and the motion vector mvL0 of L0 is calculated.
  • the inter prediction mode of the block to be processed is L1 prediction (Pred_L1)
  • the motion vector predictor candidate list mvpListL1 for L1 is calculated, the motion vector predictor mvpL1 is selected, and the motion vector mvL1 for L1 is calculated.
  • both L0 prediction and L1 prediction are performed, a motion vector predictor candidate list mvpListL0 of L0 is calculated, and a motion vector predictor mvpL0 of L0 is selected and L0 is calculated.
  • Motion vector mvL0 of L1 the motion vector predictor candidate list mvpListL1 of L1 is calculated, the motion vector predictor mvpL1 of L1 is calculated, and the motion vector mvL1 of L1 is calculated.
  • L0 and L1 are represented as common LX.
  • LX represents an inter prediction mode used for inter prediction of a coding block to be processed.
  • X is 0 in the process of calculating the motion vector of L0, and X is 1 in the process of calculating the motion vector of L1.
  • the other reference list is expressed as LY.
  • the motion vector predictor candidate of LX is calculated to construct the motion vector predictor candidate list mvpListLX of LX (step S203 of FIG. 25).
  • the spatial motion vector predictor candidate deriving unit 421, the temporal motion vector predictor candidate deriving unit 422, the history motion vector predictor candidate deriving unit 423, and the motion vector predictor candidate replenishing unit 425 include a plurality of motion predictive motions.
  • Vector candidates are calculated and a motion vector predictor candidate list mvpListLX is constructed.
  • the motion vector predictor candidate selection unit 426 selects a motion vector predictor candidate mvpListLX[mvpIdxLX] corresponding to the motion vector predictor index mvpIdxLX decoded and supplied from the motion vector predictor candidate list mvpListLX by the bit string decoding unit 201.
  • the predicted motion vector mvpLX thus obtained is extracted (step S204 in FIG. 25).
  • the motion vector mvLX of LX is calculated as (step S205 in FIG. 25).
  • FIG. 20 is a normal motion vector predictor mode derivation having a common function with the normal motion vector predictor mode deriving unit 301 of the image encoding device and the normal motion vector predictor mode deriving unit 401 of the image decoding device according to the embodiment of the present invention. It is a flow chart showing a processing procedure of processing.
  • the normal motion vector predictor mode deriving unit 301 and the normal motion vector predictor mode deriving unit 401 include a motion vector predictor candidate list mvpListLX.
  • the motion vector predictor candidate list mvpListLX has a list structure, and is provided with a storage area for storing, as elements, a motion vector predictor vector index indicating a location in the motion vector predictor candidate list and a motion vector predictor candidate corresponding to the index. ..
  • the number of the motion vector predictor index starts from 0, and the motion vector predictor candidates are stored in the storage area of the motion vector predictor candidate list mvpListLX.
  • 0 is set to a variable numCurrMvpCand indicating the number of motion vector predictor candidates registered in the motion vector predictor candidate list mvpListLX.
  • the spatial motion vector predictor candidate derivation units 321 and 421 derive motion vector predictor candidates from the block adjacent to the left side.
  • the inter prediction information of the block adjacent to the left side A0 or A1 in FIG. 11
  • a flag indicating whether or not the motion vector predictor candidate is available, and the motion vector, the reference index, etc. are referred to
  • the vector mvLXA is derived, and the derived mvLXA is added to the motion vector predictor candidate list mvpListLX (step S301 in FIG. 20). Note that X is 0 for L0 prediction and X is 1 for L1 prediction (the same applies hereinafter).
  • the spatial motion vector predictor candidate derivation units 321 and 421 derive motion vector predictor candidates from blocks adjacent to the upper side.
  • the inter prediction information of the block (B0, B1, or B2 in FIG. 11) adjacent to the upper side that is, a flag indicating whether or not the motion vector predictor candidate can be used, the motion vector, the reference index, and the like are referred to.
  • the motion vector predictor mvLXB is derived, and if the derived mvLXA and mvLXB are not equal, mvLXB is added to the motion vector predictor candidate list mvpListLX (step S302 in FIG. 20).
  • a reference index refIdxN (N indicates A or B, and so on).
  • the temporal motion vector predictor candidate derivation units 322 and 422 derive motion vector predictor candidates from blocks in a picture whose time is different from that of the current picture to be processed.
  • a flag availableFlagLXCol indicating whether or not a motion vector predictor candidate of a coded block of a picture at a different time is available
  • a motion vector mvLXCol, a reference index refIdxCol, and a reference list listCol are derived
  • mvLXCol is a motion vector predictor candidate. It is added to the list mvpListLX (step S303 in FIG. 20).
  • temporal motion vector predictor candidate derivation units 322 and 422 can be omitted for each sequence (SPS), picture (PPS), or slice unit.
  • the historical motion vector predictor candidate derivation units 323 and 423 add the historical motion vector predictor candidates registered in the historical motion vector predictor list HmvpCandList to the motion vector predictor candidate list mvpListLX. (Step S304 of FIG. 20). Details of the registration processing procedure in step S304 will be described later with reference to the flowchart in FIG.
  • the motion vector predictor candidate supplementing units 325 and 425 add motion vector predictor candidates having a predetermined value such as (0, 0) until the motion vector predictor candidate list mvpListLX is satisfied (S305 in FIG. 20).
  • the normal merge mode derivation unit 302 in FIG. 18 includes a spatial merge candidate derivation unit 341, a temporal merge candidate derivation unit 342, an average merge candidate derivation unit 344, a history merge candidate derivation unit 345, a merge candidate replenishment unit 346, and a merge candidate selection unit 347. including.
  • the normal merge mode derivation unit 402 of FIG. 24 includes a spatial merge candidate derivation unit 441, a temporal merge candidate derivation unit 442, an average merge candidate derivation unit 444, a history merge candidate derivation unit 445, a merge candidate replenishment unit 446, and a merge candidate selection unit 447. including.
  • FIG. 21 illustrates a procedure of a normal merge mode derivation process having a common function with the normal merge mode derivation unit 302 of the image encoding device and the normal merge mode derivation unit 402 of the image decoding device according to the embodiment of the present invention. It is a flowchart.
  • the normal merge mode derivation unit 302 and the normal merge mode derivation unit 402 include a merge candidate list mergeCandList.
  • the merge candidate list mergeCandList has a list structure, and is provided with a merge index indicating the location inside the merge candidate list and a storage area for storing merge candidates corresponding to the index as elements. The number of the merge index starts from 0, and the merge candidate is stored in the storage area of the merge candidate list mergeCandList.
  • the merge candidates of the merge index i registered in the merge candidate list mergeCandList will be represented by mergeCandList[i].
  • the merge candidate list mergeCandList can register at least 6 merge candidates (inter prediction information). Further, 0 is set to the variable numCurrMergeCand indicating the number of merge candidates registered in the merge candidate list mergeCandList.
  • the block to be processed is processed from the coding information stored in the coding information storage memory 111 of the image coding device or the coding information storage memory 205 of the image decoding device.
  • the spatial merge candidates A and B from the blocks adjacent to the left side and the upper side of are derived, and the derived spatial merge candidates are registered in the merge candidate list mergeCandList (step S401 in FIG. 21).
  • N indicating any of the spatial merge candidates A and B or the temporal merge candidate Col is defined.
  • the flag predFlagL0N and the L1 prediction flag predFlagL1N and the motion vector mvL0N of L0 and the motion vector mvL1N of L1 which show whether L1 prediction are performed are derived.
  • the merge candidate is derived without referring to the inter prediction information of the block included in the coding block to be processed
  • the inter prediction information of the block included in the coding block to be processed is derived.
  • a spatial merge candidate using is not derived.
  • the temporal merge candidate derivation unit 342 and the temporal merge candidate derivation unit 442 derive temporal merge candidates from pictures at different times and register the derived temporal merge candidates in the merge candidate list mergeCandList (FIG. 21).
  • Step S402 A flag availableFlagCol indicating whether or not the temporal merge candidate is available, an L0 prediction flag predFlagL0Col indicating whether or not L0 prediction of the temporal merge candidate is performed and an L1 prediction flag predFlagL1Col and L0 indicating whether or not L1 prediction is performed.
  • the motion vector mvL0Col of L1 and the motion vector mvL1Col of L1 are derived.
  • the processes of the temporal merge candidate derivation unit 342 and the temporal merge candidate derivation unit 442 can be omitted for each sequence (SPS), picture (PPS), or slice.
  • the history merge candidate derivation unit 345 and the history merge candidate derivation unit 445 register the history motion vector predictor candidates registered in the history motion vector predictor candidate list HmvpCandList in the merge candidate list mergeCandList (step S403 in FIG. 21). .. If the number of merge candidates numCurrMergeCand registered in the merge candidate list mergeCandList is smaller than the maximum number of merge candidates MaxNumMergeCand, the number of merge candidates numCurrMergeCand registered in the merge candidate list mergeCandList is the maximum number of merge candidates MaxNumMergeCand as the upper limit.
  • the history merge candidate is derived and registered in the merge candidate list mergeCandList.
  • the average merge candidate derivation unit 344 and the average merge candidate derivation unit 444 derive the average merge candidate from the merge candidate list mergeCandList and add the derived average merge candidate to the merge candidate list mergeCandList (step in FIG. 21). S404). If the number of merge candidates numCurrMergeCand registered in the merge candidate list mergeCandList is smaller than the maximum number of merge candidates MaxNumMergeCand, the number of merge candidates numCurrMergeCand registered in the merge candidate list mergeCandList is the maximum number of merge candidates MaxNumMergeCand as the upper limit.
  • the average merge candidate is derived and registered in the merge candidate list mergeCandList.
  • the average merge candidate has a new motion vector obtained by averaging the motion vectors of the first merge candidate and the second merge candidate registered in the merge candidate list mergeCandList for each L0 prediction and L1 prediction. It is a good candidate for merging.
  • the merge candidate supplementing unit 346 and the merge candidate supplementing unit 446 when the number of merge candidates numCurrMergeCand registered in the merge candidate list mergeCandList is smaller than the maximum number of merge candidates MaxNumMergeCand, it is registered in the merge candidate list mergeCandList.
  • the number of merge candidates numCurrMergeCand that is present derives additional merge candidates with the maximum number of merge candidates MaxNumMergeCand as the upper limit, and registers them in the merge candidate list mergeCandList (step S405 in FIG. 21).
  • a merge candidate whose motion vector has a value of (0, 0) and whose prediction mode is L0 prediction (Pred_L0) is added.
  • a merge candidate in which the prediction mode in which the motion vector has a value of (0,0) is bi-prediction (Pred_BI) is added.
  • the reference index when adding a merge candidate is different from the reference index already added.
  • the merge candidate selection unit 347 and the merge candidate selection unit 447 select merge candidates from the merge candidates registered in the merge candidate list mergeCandList.
  • the merging candidate selecting unit 347 on the encoding side selects the merging candidate by calculating the code amount and the distortion amount, and selects the merging index indicating the merging candidate selected, the inter prediction information of the merging candidate, and the inter prediction mode judging unit. It is supplied to the motion compensation prediction unit 306 via 305.
  • the merge candidate selection unit 447 on the decoding side selects a merge candidate based on the decoded merge index and supplies the selected merge candidate to the motion compensation prediction unit 406.
  • the normal merge mode derivation unit 302 and the normal merge mode derivation unit 402 when the size (product of width and height) of a certain coding block is less than 32, merge candidates are derived in the parent block of the coding block. Then, the merge candidates derived in the parent block are used in all the child blocks. However, it is limited to the case where the size of the parent block is 32 or more and is within the screen.
  • FIG. 26 is a flowchart for explaining the procedure of the process of initializing and updating the history motion vector predictor candidate list.
  • history motion vector predictor candidate list HmvpCandList is updated in the encoded information storage memory 111 and the encoded information storage memory 205.
  • a history motion vector predictor candidate list update unit may be installed in the inter prediction unit 102 and the inter prediction unit 203 to update the history motion vector predictor candidate list HmvpCandList.
  • the history motion vector predictor candidate list HmvpCandList is initialized at the beginning of the slice, and when the normal motion vector predictor mode or the normal merge mode is selected by the prediction method determination unit 105 on the encoding side, the history motion vector predictor candidate list HmvpCandList is set.
  • the decoding side updates the history prediction motion vector candidate list HmvpCandList on the decoding side when the prediction information decoded by the bit string decoding unit 201 is the normal motion vector predictor mode or the normal merge mode.
  • the inter prediction information candidate hMvpCandList the inter prediction information candidate hMvpCand.
  • the reference index refIdxL0 of L0 and the reference index refIdxL1 of L1 the reference index refIdxL0 indicating whether L0 prediction is performed
  • the L1 prediction flag predFlagL1 indicating whether L1 prediction is performed
  • the motion vector mvL0 of L0 and the motion vector mvL1 of L1 are included.
  • inter prediction information candidates are included. If inter prediction information having the same value as hMvpCand exists, that element is deleted from the history motion vector predictor candidate list HmvpCandList. On the other hand, if there is no inter prediction information having the same value as the inter prediction information candidate hMvpCand, the top element of the historical motion vector predictor candidate list HmvpCandList is deleted, and the inter prediction information candidate is added at the end of the historical motion vector predictor list HmvpCandList. Add hMvpCand.
  • the number of elements of the history motion vector predictor candidate list HmvpCandList provided in the coding information storage memory 111 on the coding side and the coding information storage memory 205 on the decoding side of the present invention is 6.
  • the history motion vector predictor candidate list HmvpCandList is initialized in slice units (step S2101 in FIG. 26).
  • the history motion vector predictor candidate is added to all the elements of the motion vector predictor motion vector candidate list HmvpCandList at the beginning of the slice, and the number of motion vector predictor motion vector candidates registered in the motion vector predictor motion vector candidate list HmvpCandList is set to 6 for the value of NumHmvpCand. Set.
  • empty all the elements of the history motion vector predictor candidate list HmvpCandList at the beginning of the slice, and set the number of history motion vector predictor candidates (current number of candidates) NumHmvpCand registered in the motion vector predictor candidate list HmvpCandList to It may be set to 0.
  • the initialization of the history motion vector predictor candidate list HmvpCandList is performed in slice units (the first coding block of a slice), but it may be performed in picture units, tile units, or tree block row units.
  • FIG. 38 is a table showing an example of historical motion vector predictor candidates added by the initialization of the historical motion vector predictor candidate list HmvpCandList.
  • the information is added to the history motion vector predictor candidate list HmvpCandList as the history motion vector predictor candidates, and the history motion vector predictor candidate list is filled with the history candidates.
  • the history motion vector predictor index hMvpIdx starts from (the number of motion vector predictor candidates NumHmvpCand-1), and the reference index refIdxLX (X is 0 or 1) ranges from 0 to (the number of reference pictures numRefIdx-1). Set a value that is incremented by 1. After that, duplication between the historical motion vector predictor candidates is permitted, and the reference index refIdxLX is set to a value of 0. All the values are set in the number of historical motion vector predictor candidates NumHmvpCand and the value of the number of historical motion vector predictor candidates NumHmvpCand is set to a fixed value to eliminate invalid historical motion vector predictor candidates.
  • the history motion vector predictor candidate list in slice units can be filled with the history motion vector predictor candidates. Further, by filling the history motion vector predictor candidate list in slice units with the history motion vector predictor candidates, the number of history motion vector predictor candidates can be treated as a fixed value.
  • the history merge candidate derivation process can be simplified.
  • the value of the motion vector is generally (0, 0), which has a high selection probability, but any other value may be used as long as it is a predetermined value.
  • the coding efficiency of the differential motion vector may be improved by setting a value such as (4,4), (0,32), (-128,0), or a plurality of predetermined values may be set to set the differential motion vector. The coding efficiency of may be improved.
  • the history motion vector predictor index hMvpIdx starts from (the number of motion vector predictor motion vector candidates NumHmvpCand-1), and the reference index refIdxLX (X is 0 or 1) ranges from 0 to (the number of reference pictures numRefIdx-1). Although the values are set to be incremented by one, the history motion vector predictor index hMvpIdx may be started from 0.
  • FIG. 39 is a table showing another example of the historical motion vector predictor candidates added by the initialization of the historical motion vector predictor list HmvpCandList.
  • the value of the reference index refIdxLX (X is 0 or 1) or the motion vector mvLXHmvp (X is 0 or 1) so that each element of the historical motion vector predictor list HmvpCandList does not overlap with each other.
  • the inter-prediction information having a different one is added as a history motion vector predictor candidate to fill the history motion vector predictor candidate list.
  • the history motion vector predictor index hMvpIdx starts from (the number of motion vector predictor candidates NumHmvpCand-1), and the reference index refIdxLX (X is 0 or 1) ranges from 0 to (the number of reference pictures numRefIdx-1). Set a value that is incremented by 1. After that, the motion vector mvLXHmvp having different values of 0 is added to the reference index refIdxLX as a history motion vector predictor candidate. All the values are set in the number of historical motion vector predictor candidates NumHmvpCand and the value of the number of historical motion vector predictor candidates NumHmvpCand is set to a fixed value to eliminate invalid historical motion vector predictor candidates.
  • the history merge candidate in the normal merge mode derivation unit 302 which will be described later, that is performed in units of coding blocks.
  • the processing of the merge candidate supplementation unit 346 after the derivation unit 345 can be omitted, and the processing amount can be reduced.
  • the absolute value of each component of the motion vector mvLXHmvp is set to 0 or 1, but the absolute value of each component of the motion vector mvLXHmvp may be set to be larger than 1 as long as history prediction motion vector candidates do not overlap with each other. ..
  • the history motion vector predictor index hmvpIdx starts from (the number of motion vector predictor motion vectors NumHmvpCand-1), and 0 to (the number of reference pictures numRefIdx-1) for the reference index refIdxLX (X is 0 or 1). Although the values are set to be incremented by one, the history motion vector predictor index hMvpIdx may be started from 0.
  • FIG. 40 is a table showing another example of the historical motion vector predictor candidates added by the initialization of the historical motion vector predictor list HmvpCandList.
  • the reference index refIdxLX is 0 and the inter prediction information with different motion vector mvLXHmvp values is set as the history motion vector predictor candidates so that the elements of the motion vector predictor candidate list HmvpCandList do not overlap with each other.
  • the history motion vector predictor index hMvpIdx is started from (the number of history motion vector predictor candidates NumHmvpCand-1), the reference index refIdxLX (X is 0 or 1) is 0, and the motion vector mvLXHmvp is different.
  • All the values are set in the number of historical motion vector predictor candidates NumHmvpCand and the value of the number of historical motion vector predictor candidates NumHmvpCand is set to a fixed value to eliminate invalid historical motion vector predictor candidates.
  • the absolute value of each component of the motion vector mvLXHmvp is set to a power of 0, 1 or 2, but if the reference index is 0 and no overlap between the historical prediction motion vector candidates occurs, the absolute value of each component of the motion vector mvLXHmvp
  • the value may be a power of a value other than 2, such as 3, 4, or any other value.
  • the history motion vector predictor index hMvpIdx is started from (the number of motion vector predictor motion vector candidates NumHmvpCand-1), the reference index refIdxLX (X is 0 or 1) is 0, and the motion vector mvLXHmvp is set to different inter prediction information.
  • the history motion vector predictor index hMvpIdx may be started from 0.
  • step S2104 It is determined whether or not the inter prediction information candidate hMvpCand to be registered exists (step S2104 in FIG. 26).
  • the inter prediction information is set as an inter prediction information candidate hMvpCand to be registered.
  • the prediction method determination unit 105 on the encoding side determines the intra prediction mode, the sub-block prediction motion vector mode, or the sub-block merge mode, or the decoding-side bit string decoding unit 201 determines the intra prediction mode, the sub-block prediction motion vector mode
  • the history motion vector predictor candidate list HmvpCandList is not updated, and the inter prediction information candidate hMvpCand to be registered does not exist. If the inter prediction information candidate hMvpCand to be registered does not exist, steps S2105 to S2106 are skipped (step S2104 of FIG. 26: NO).
  • the processing from step S2105 is performed (step S2104 in FIG. 26: YES).
  • FIG. 27 is a flowchart of the same element confirmation processing procedure.
  • the value of the number of historical motion vector predictor NumHmvpCand is 0 (step S2121 in FIG. 27: NO)
  • the historical motion vector predictor candidate list HmvpCandList is empty and the same candidate does not exist, so steps S2122 to S2125 in FIG. 27 are skipped. Then, the same element confirmation processing procedure ends.
  • step S2123 is repeated from the history motion vector predictor index hMvpIdx of 0 to NumHmvpCand-1 (step of FIG. 27). S2122 to S2125). First, it is compared whether or not the hMvpIdxth element HmvpCandList[hMvpIdx] counting from 0 in the history motion vector predictor list is the same as the inter prediction information candidate hMvpCand (step S2123 in FIG. 27). If they are the same (step S2123 in FIG.
  • step S2123 in FIG. 27: NO hMvpIdx is incremented by 1, and if the history motion vector predictor index hMvpIdx is NumHmvpCand-1 or less, the processing from step S2123 is performed.
  • FIG. 28 is a flowchart of the element shift/addition processing procedure of the history motion vector predictor candidate list HmvpCandList in step S2106 of FIG. First, it is determined whether an element stored in the history motion vector predictor candidate list HmvpCandList is removed and then a new element is added, or whether a new element is added without removing the element.
  • step S2141 it compares whether or not TRUE (true) or NumHmvpCand is 6 with a flag “identicalCandExist” indicating whether the same candidate exists (step S2141 in FIG. 28).
  • the flag indicating whether the same candidate exists is TRUE (true) or the current number of candidates NumHmvpCand satisfies the condition of 6 (YES in step S2141 of FIG. 28)
  • the history motion vector predictor candidate list HmvpCandList Add the new element after removing the element stored in. Set the initial value of index i to the value of removeIdx + 1. From this initial value to NumHmvpCand, the element shift processing of step S2143 is repeated.
  • Step S2142 to S2144 in FIG. 28 By copying the element of HmvpCandList[ i ] to HmvpCandList[ i - 1 ], the element is shifted forward (step S2143 in FIG. 28) and i is incremented by 1 (steps S2142 to S2144 in FIG. 28). Subsequently, the inter prediction information candidate hMvpCand is added to (NumHmvpCand-1)th HmvpCandList[NumHmvpCand-1] counting from 0 corresponding to the end of the history prediction motion vector candidate list (step S2145 in FIG. 28), and the main history prediction is performed.
  • the element shift/addition processing of the motion vector candidate list HmvpCandList ends.
  • the condition of TRUE (true) and NumHmvpCand of 6 is satisfied in the flag “identicalCandExist” indicating whether the same candidate exists (step S2141 in FIG. 28: NO)
  • it is stored in the history motion vector predictor candidate list HmvpCandList.
  • the inter-prediction information candidate hMvpCand is added to the end of the history motion vector predictor candidate list without excluding the elements described (step S2146 in FIG. 28).
  • the end of the history motion vector predictor candidate list is the NumHmvpCand th HmvpCandList[NumHmvpCand] counted from 0.
  • NumHmvpCand is incremented by 1, and the element shift and addition processing of this history motion vector predictor candidate list HmvpCandList are terminated.
  • FIG. 31 is a diagram illustrating an example of update processing of the history motion vector predictor candidate list.
  • the history prediction motion vector candidate list HmvpCandList that has registered six elements (inter prediction information)
  • it is compared with new inter prediction information in order from the front element of the history prediction motion vector candidate list HmvpCandList.
  • FIG. 31A if the new element has the same value as the third element HMVP2 from the top of the history motion vector predictor candidate list HmvpCandList, the element HMVP2 is deleted from the history motion vector predictor list HmvpCandList and the subsequent element HMVP3...
  • HMVP5 is shifted (copied) forward one by one, a new element is added to the end of the history motion vector predictor candidate list HmvpCandList (FIG. 31B), and the history motion vector predictor candidate list HmvpCandList is updated (FIG. 31C). ).
  • FIG. 29 is a flowchart for explaining the procedure of the history motion vector predictor candidate derivation process.
  • step S2201 in FIG. 29 If the current number of motion vector predictor candidates numCurrMvpCand is greater than or equal to the maximum number of elements (here, 2) in the motion vector predictor candidate list mvpListLX, or if the number of historical motion vector predictor candidates is 0 in the value of NumHmvpCand (step S2201 in FIG. 29). 29), the processing of steps S2202 to S2209 in FIG. 29 is omitted, and the history motion vector predictor candidate derivation processing procedure ends.
  • the maximum number of elements here, 2
  • the number of historical motion vector predictor candidates is 0 in the value of NumHmvpCand
  • steps S2203 to S2208 of FIG. 29 are repeated until the index i is 1 to 4 and the number of historical motion vector predictor candidates numCheckedHMVPCand, whichever is smaller (steps S2202 to S2209 of FIG. 29). If the current number of motion vector predictor candidates numCurrMvpCand is 2 or more, which is the maximum number of elements of the motion vector predictor candidate list mvpListLX (step S2203: NO in FIG. 29), the processes in steps S2204 to S2209 in FIG. The history motion vector predictor candidate derivation process procedure ends.
  • step S2203 YES in FIG. 29
  • the processes after step S2204 in FIG. 29 are performed.
  • steps S2205 to S2207 are performed for Y of 0 and 1 (L0 and L1), respectively (steps S2204 to S2208 of FIG. 29).
  • the current number numCurrMvpCand of motion vector predictor candidates is 2 or more, which is the maximum number of elements of the motion vector predictor candidate list mvpListLX (step S2205 of FIG. 29: NO)
  • the processes of steps S2206 to S2209 of FIG. 29 are omitted, This history motion vector predictor candidate derivation processing procedure is ended.
  • step S2205 YES in FIG. 29
  • the process from step S2206 onward in FIG. 29 is performed.
  • Step S2206 the LY motion vector of the history motion vector predictor candidate HmvpCandList[NumHmvpCand - i] is added to the numCurrMvpCand th element mvpListLX[numCurrMvpCand] counting from 0 in the motion vector predictor list (step in FIG. 29).
  • step S2207 the number of current motion vector predictor candidates numCurrMvpCand is incremented by 1.
  • the additional process of step S2207 is skipped.
  • steps S2205 to S2207 in FIG. 29 are performed in L0 and L1 (steps S2204 to S2208 in FIG. 29).
  • the index i is incremented by 1, and when the index i is 4 or less than the number NumHmvpCand of the number of history motion vector predictor candidates, whichever is smaller, the processes in and after step S2203 are performed again (steps S2202 to S2209 in FIG. 29).
  • step S404 in FIG. 21 which is a process common to the history merge candidate derivation unit 345 of the encoding-side normal merge mode derivation unit 302 and the history merge candidate derivation unit 445 of the decoding-side normal merge mode derivation unit 402.
  • a method of deriving a history merge candidate from the history merge candidate list HmvpCandList, which is a procedure, will be described in detail.
  • FIG. 30 is a flowchart for explaining the history merge candidate derivation processing procedure.
  • initialization processing is performed (step S2301 in FIG. 30).
  • the initial value of the index hMvpIdx is set to 1, and the additional processing from step S2303 to step S2310 in FIG. 30 is repeated from this initial value to NumHmvpCand (steps S2302 to S2311 in FIG. 30). If the number of elements registered in the current merge candidate list numCurrMergeCand is not less than (maximum merge candidate number MaxNumMergeCand-1), merge candidates have been added to all elements in the merge candidate list, so this history merge candidate derivation The process ends (NO in step S2303 of FIG. 30).
  • step S2304 When the number numCurrMergeCand of the elements registered in the current merge candidate list is (maximum merge candidate number MaxNumMergeCand-1) or less, the processing from step S2304 is performed. A value of FALSE (false) is set in sameMotion (step S2304 in FIG. 30). Subsequently, the initial value of the index i is set to 0, and the processes of steps S2306 and S2307 of FIG. 30 are performed from this initial value to numOrigMergeCand-1 (S2305 to S2308 of FIG. 30).
  • FALSE false
  • the same value of the merge candidate means that the merge candidate has the same value when all the constituent elements (inter prediction mode, reference index, motion vector) of the merge candidate have the same value. If the merge candidates have the same value and isPruned[i] is FALSE (YES in step S2306 in FIG. 30), both sameMotion and isPruned[i] are set to TRUE (step S2307 in FIG. 30). If the values are not the same (NO in step S2306 in FIG. 30), the process in step S2307 is skipped. When the iterative process from step S2305 to step S2308 in FIG. 30 is completed, it is compared whether or not sameMotion is FALSE (step S2309 in FIG. 30).
  • the (NumHmvpCand-hMvpIdx)th element HmvpCandList[NumHmvpCand-hMvpIdx] counting from 0 in the motion vector candidate list is added, and numCurrMergeCand is incremented by 1 (step S2310 in FIG. 30).
  • the index hMvpIdx is incremented by 1 (step S2302 of FIG. 30), and steps S2302 to S2311 of FIG. 30 are repeated.
  • the motion compensation prediction unit 306 acquires the position and size of the block currently subjected to prediction processing in encoding. Further, the motion compensation prediction unit 306 acquires the inter prediction information from the inter prediction mode determination unit 305. A reference index and a motion vector are derived from the acquired inter prediction information, and the reference picture specified by the reference index in the decoded image memory 104 is moved from the same position as the image signal of the prediction block by the amount of the motion vector. After obtaining the image signal, the prediction signal is generated.
  • the inter prediction mode in inter prediction is prediction from a single reference picture such as L0 prediction or L1 prediction
  • the prediction signal acquired from one reference picture is used as the motion compensation prediction signal
  • the inter prediction mode is BI.
  • the prediction mode is prediction from two reference pictures, such as prediction
  • a weighted average of the prediction signals acquired from the two reference pictures is used as the motion compensation prediction signal
  • the motion compensation prediction signal is determined as the prediction method. It is supplied to the section 105.
  • the weighted average ratio of bi-prediction is set to 1:1, but the weighted average may be performed using another ratio. For example, the closer the picture interval between the picture to be predicted and the reference picture is, the larger the weighting ratio may be. Further, the weighting ratio may be calculated using a correspondence table between the combination of picture intervals and the weighting ratio.
  • the motion compensation prediction unit 406 has the same function as the motion compensation prediction unit 306 on the encoding side.
  • the motion compensation prediction unit 406 outputs the inter prediction information from the normal motion vector predictor mode derivation unit 401, the normal merge mode derivation unit 402, the sub block motion vector predictor mode derivation unit 403, and the sub block merge mode derivation unit 404 to the switch 408. To get through.
  • the motion compensation prediction unit 406 supplies the obtained motion compensation prediction signal to the decoded image signal superimposing unit 207.
  • ⁇ About inter prediction mode> The process of performing prediction from a single reference picture is defined as uni-prediction, and in the case of uni-prediction, either one of the two reference pictures registered in the reference lists L0 and L1 called L0 prediction or L1 prediction is used. Make a prediction.
  • FIG. 32 shows a case of uni-prediction, and the reference picture (RefL0Pic) of L0 is at a time before the picture to be processed (CurPic).
  • FIG. 33 shows a case where the reference picture of the L0 prediction in the uni-prediction is at a time after the picture to be processed.
  • the L0 prediction reference picture in FIGS. 32 and 33 may be replaced with the L1 prediction reference picture (RefL1Pic) to perform single prediction.
  • FIG. 34 shows a case where the reference picture for bi-prediction and L0 prediction is at a time before the processing target picture, and the L1 prediction reference picture is at a time after the processing target picture.
  • FIG. 35 illustrates a case where bi-prediction reference pictures for L0 prediction and reference pictures for L1 prediction are at a time before the picture to be processed.
  • FIG. 36 shows a case in which bi-prediction reference pictures for L0 prediction and reference pictures for L1 prediction are at times after the picture to be processed.
  • L0 prediction and L1 prediction may be performed using the same reference picture. Note that the determination as to whether the motion-compensated prediction is performed by uni-prediction or bi-prediction is made based on information (for example, a flag) indicating whether or not L0 prediction is used and whether or not L1 prediction is used. It
  • ⁇ About reference index> In the embodiment of the present invention, in order to improve the accuracy of motion compensation prediction, it is possible to select the optimum reference picture from a plurality of reference pictures in motion compensation prediction. Therefore, the reference picture used in the motion compensation prediction is used as a reference index, and the reference index is encoded in the bitstream together with the differential motion vector.
  • the motion compensation prediction unit 306 when the inter prediction mode determination unit 305 selects the inter prediction information by the normal motion vector predictor mode derivation unit 301, as shown in the inter prediction unit 102 on the encoding side in FIG. Acquires this inter prediction information from the inter prediction mode determination unit 305, derives the inter prediction mode, reference index, and motion vector of the block currently being processed, and generates a motion compensation prediction signal.
  • the generated motion compensation prediction signal is supplied to the prediction method determination unit 105.
  • the motion vector predictor mode deriving unit 401 acquires the inter prediction information, derives the inter prediction mode, the reference index, and the motion vector of the currently processed block, and generates the motion compensation prediction signal.
  • the generated motion compensation prediction signal is supplied to the decoded image signal superimposing unit 207.
  • ⁇ Motion compensation processing based on normal merge mode> In the motion compensation prediction unit 306, when the inter prediction mode determination unit 305 selects the inter prediction information by the normal merge mode derivation unit 302, as shown in the inter prediction unit 102 on the encoding side in FIG. This inter prediction information is acquired from the inter prediction mode determination unit 305, the inter prediction mode, the reference index, and the motion vector of the currently processed block are derived, and the motion compensation prediction signal is generated. The generated motion compensation prediction signal is supplied to the prediction method determination unit 105.
  • the motion compensation prediction unit 406 when the switch 408 is connected to the normal merge mode derivation unit 402 in the decoding process as shown in the inter prediction unit 203 on the decoding side in FIG. 22, the normal merge mode.
  • the inter-prediction information is obtained by the derivation unit 402, the inter-prediction mode, reference index, and motion vector of the block currently being processed are derived, and a motion-compensated prediction signal is generated.
  • the generated motion compensation prediction signal is supplied to the decoded image signal superimposing unit 207.
  • the motion compensation prediction unit 306 As shown in the inter prediction unit 102 on the coding side in FIG. 16, when the inter prediction mode determination unit 305 selects the inter prediction information by the sub block prediction motion vector mode derivation unit 303. For this, the inter prediction information is acquired from the inter prediction mode determination unit 305, the inter prediction mode, the reference index, and the motion vector of the currently processed block are derived to generate a motion compensation prediction signal. The generated motion compensation prediction signal is supplied to the prediction method determination unit 105.
  • the motion compensation prediction unit 406 as shown in the inter prediction unit 203 on the decoding side in FIG. 22, when the switch 408 is connected to the sub-block motion vector predictor mode derivation unit 403 during the decoding process,
  • the inter-prediction motion vector mode derivation unit 403 acquires inter-prediction information, derives the inter-prediction mode, reference index, and motion vector of the currently processed block, and generates a motion-compensated prediction signal.
  • the generated motion compensation prediction signal is supplied to the decoded image signal superimposing unit 207.
  • ⁇ Motion compensation processing based on sub-block merge mode> In the motion compensation prediction unit 306, when the inter prediction mode determination unit 305 selects the inter prediction information by the sub block merge mode derivation unit 304, as shown in the inter prediction unit 102 on the encoding side in FIG.
  • the inter prediction information is acquired from the inter prediction mode determination unit 305, the inter prediction mode, the reference index, and the motion vector of the currently processed block are derived, and the motion compensation prediction signal is generated.
  • the generated motion compensation prediction signal is supplied to the prediction method determination unit 105.
  • the motion compensation prediction unit 406 as shown in the inter prediction unit 203 on the decoding side in FIG. 22, when the switch 408 is connected to the sub block merge mode derivation unit 404 in the decoding process, the sub block The inter prediction information obtained by the merge mode derivation unit 404 is acquired, the inter prediction mode, the reference index, and the motion vector of the block currently being processed are derived, and the motion compensation prediction signal is generated. The generated motion compensation prediction signal is supplied to the decoded image signal superimposing unit 207.
  • motion compensation by an affine model can be used based on the following flags.
  • the following flags are reflected in the following flags based on the inter prediction condition determined by the inter prediction mode determination unit 305 in the encoding process, and are encoded in the bitstream.
  • ⁇ sps_affine_enabled_flag indicates whether motion compensation using an affine model can be used in inter prediction. If sps_affine_enabled_flag is 0, the motion compensation by the affine model is suppressed in sequence units. Also, inter_affine_flag and cu_affine_type_flag are not transmitted in the CU (coding block) syntax of the coded video sequence. If sps_affine_enabled_flag is 1, motion compensation by an affine model can be used in the coded video sequence.
  • ⁇ sps_affine_type_flag indicates whether motion compensation using a 6-parameter affine model can be used in inter prediction. If sps_affine_type_flag is 0, the motion compensation is not performed by the 6-parameter affine model. Also, cu_affine_type_flag is not transmitted in the CU syntax of the coded video sequence. If sps_affine_type_flag is 1, motion compensation by a 6-parameter affine model can be used in a coded video sequence. If sps_affine_type_flag does not exist, it shall be 0.
  • inter_affine_flag 1 in the CU currently being processed
  • the affine model is used to generate the motion compensation prediction signal of the CU currently being processed. Motion compensation is used. If inter_affine_flag is 0, the affine model is not used for the CU currently being processed. If inter_affine_flag does not exist, it shall be 0.
  • a reference index or motion vector is derived in sub-block units, so a motion-compensated prediction signal is generated using the reference index or motion vector that is the processing target in sub-block units.
  • the 4-parameter affine model is a mode in which the motion vector of a sub-block is derived from the four parameters of the horizontal and vertical components of the motion vector of each of the two control points, and motion compensation is performed in sub-block units.
  • the order in which the elements (candidates) of the history motion vector predictor candidate list are referred to is the same in the normal motion vector predictor mode and the normal merge mode.
  • the order of reference when using the history motion vector predictor candidate list is the reverse of that of the first embodiment, as shown in FIG.
  • the order is the same as that of the first embodiment, as shown in FIG. That is, the order of referring to the candidates included in the history motion vector predictor candidate list is reversed (reverse order) in the normal motion vector predictor mode and the normal merge mode.
  • the elements in the history motion vector predictor candidate list are added to the motion vector predictor candidate list in order from the oldest element, and in the normal merge mode, the elements in the history motion vector predictor candidate list are The new elements will be added to the motion vector predictor candidate list in order.
  • ⁇ History motion vector predictor candidate list> This section describes the structure and operation of the history motion vector predictor candidate list.
  • the inter prediction information used by the inter prediction in the current block is set as the inter prediction information candidate hMvpCand to be registered, and the history prediction motion vector candidate list HmvpCandList is used as the history that has been used in the past. Register with.
  • the history motion vector predictor candidate list has a list structure capable of storing six elements, and first-in first-out FIFO (First-In, First Out) method in which the elements stored first are sequentially extracted. Is the basic storage operation.
  • the maximum number of elements that can be stored in the HmvpCandList is described as 6 as an agreement on the encoding side and the decoding side, but it is not particularly limited and may be 6 or more. Further, the maximum number of elements that can be stored in the HmvpCandList may be five or less.
  • the HmvpCandList may be configured to have the maximum number of elements equivalent to the maximum number of elements of the inter prediction information candidates, such as the maximum number of elements of the motion vector predictor candidate list mvpListLX, the maximum number of merge candidates, and the maximum number of candidate subblock merges. Further, the HmvpCandList may be configured so as to be linked to the maximum number of elements of inter prediction information candidates in each mode.
  • HmvpCandList The maximum number of elements of this HmvpCandList may be included in the syntax element of the bitstream so that it can be transmitted from the encoding side to the decoding side.
  • HmvpCandList can store 6 elements from position 0, which is the beginning of the list, to position 5, which is the end of the list, and can fill the elements from position 0 to position 5 in order. it can.
  • the positions 0 to 5 are managed as the history motion vector predictor index hMvpIdx.
  • position 0 can be expressed as hMVpIdx[0]
  • position 5 can be expressed as hMVpIdx[5].
  • the number of storage elements of the HmvpCandList is managed by NumHmvpCand, and the increase/decrease of storage elements is managed in the range of 0 to 6, which is the maximum number of elements.
  • HmvpCandList Detailed description of adding a new element while the maximum number of elements is stored in HmvpCandList.
  • the inter-prediction information candidate hMvpCand is to be newly registered as a history
  • the element at position 0 that is the head is deleted, and the position of each element is shifted one by one in the head direction.
  • the number of storage elements is reduced by one as shown in FIG. 43, so that a new element can be stored in the last position 5. Therefore, by storing the inter prediction information candidate hMvpCand at the end position 5, a new element is added to the HmvpCandList as shown in FIG.
  • FIG. 47 is a diagram illustrating a case where the history motion vector predictor candidate list HmvpCandList is configured to be used while referring in the order opposite to the reference order of the normal merge mode in the normal motion vector predictor mode of the second embodiment, It is a flow chart explaining a history prediction motion vector candidate derivation processing procedure.
  • step S2601 in FIG. 47 When the number numCurrMvpCand of the current motion vector predictor candidates is equal to or larger than the maximum number of elements (here, 2) of the motion vector predictor candidate list mvpListLX, or when the number NumHmvpCand of the number of history motion vector predictor candidates is 0 (step S2601 in FIG. 47). NO), the processing of steps S2602 to S2609 of FIG. 47 is omitted, and the history motion vector predictor candidate derivation processing procedure ends.
  • the maximum number of elements here, 2
  • NumHmvpCand of the number of history motion vector predictor candidates is 0 (step S2601 in FIG. 47).
  • steps S2603 to S2608 of FIG. 47 are repeated until the index i is 0 to 4, and the number of historical motion vector predictor candidates NumHmvpCand, whichever is smaller, is subtracted from 1 (step S2602 to FIG. 47). S2609). If the current number of motion vector predictor candidates numCurrMvpCand is 2 or more, which is the maximum number of elements of the motion vector predictor candidate list mvpListLX (NO in step S2603 of FIG. 47 ), the processes of steps S2604 to S2609 of FIG. The history motion vector predictor candidate derivation process procedure ends.
  • step S2604 If the current number numCurrMvpCand of motion vector predictor candidates is smaller than 2, which is the maximum number of elements in the motion vector predictor candidate list mvpListLX (YES in step S2603 of FIG. 47 ), the process of step S2604 and subsequent steps of FIG. 47 is performed.
  • steps S2605 to S2607 are performed for indexes Y of 0 and 1 (L0 and L1), respectively (steps S2604 to S2608 of FIG. 47).
  • the number numCurrMvpCand of the current motion vector predictor candidates is 2 or more, which is the maximum number of elements of the motion vector predictor candidate list mvpListLX (NO in step S2605 of FIG. 47 )
  • the history motion vector predictor candidate derivation process procedure ends.
  • step S2606 When the current number numCurrMvpCand of motion vector predictor candidates is smaller than 2, which is the maximum number of elements of the motion vector predictor candidate list mvpListLX (YES in step S2605 of FIG. 47 ), the process of step S2606 and subsequent steps of FIG. 47 is performed.
  • the LY motion vector of the history motion vector predictor candidate HmvpCandList[i] is added to the numCurrMvpCand th element mvpListLX[numCurrMvpCand ] counting from 0 in the motion vector predictor list (step S2607 in FIG. 47).
  • step S2607 the addition process of step S2607 is skipped.
  • steps S2605 to S2607 in FIG. 47 are performed in L0 and L1 (steps S2604 to S2608 in FIG. 47).
  • the index i is incremented by 1 (steps S2602 and S2609 in FIG. 47), and when the index i is equal to or less than the value obtained by subtracting 1 from the smaller one of 4 and the number of historical motion vector predictor candidates NumHmvpCand, the processing of step S2603 and thereafter is performed again. Is performed (steps S2602 to S2609 in FIG. 47).
  • elements that are added first (old elements) in the history motion vector predictor candidate list are referenced in order and added to the motion vector predictor candidate list.
  • ⁇ Modification 1> A history reference flag indicating that the reference order of the history motion vector predictor candidate list is used as in the present embodiment is introduced, and the reference order of the first embodiment and the reference order of the present embodiment are combined. It may be configured to be switched.
  • the history reference flag may be included in the syntax element of the bitstream and transmitted to the decoding side, and the decoding side may acquire the bitstream having the history reference flag as the syntax element and be able to decode the bitstream.
  • ⁇ Modification 2> In the present embodiment, in the normal motion vector predictor mode, the history motion vector predictor candidate list is referred to one by one in the order of elements 0 to 5 as shown in FIG. 46. In the normal merge mode, as shown in FIG.
  • references were made one by one in the order of element 5 to element 0 of the history motion vector predictor candidate list, but this is limited to this if the order of referring to the motion vector predictor candidate list is different between the normal motion vector predictor mode and the normal merge mode. Not done.
  • the elements 0 to 2 are referred to, and in the normal merge mode, the element 5 to the element 1 are referred to.
  • the numbers referred to may be different. In this case, it is preferable to increase the number of references in the normal merge mode in which the number of candidates is large. Further, in the normal merge mode, the starting point may be changed so as to refer to the elements 4 to 0.
  • the reference order when using the history motion vector predictor candidate list is set to a reference order different from the normal motion vector predictor mode, so that each mode can be changed. You will be able to adopt suitable candidates.
  • the normal motion vector predictor mode for encoding the differential motion vector is selected, a motion vector different from the situation around the target block for encoding is often required. Therefore, by searching the history motion vector predictor candidate list and using elements that are considered to have a relatively low correlation different from the most recent one, that is, the oldest elements stored first, as candidates, the normal motion vector predictor mode is set.
  • a candidate suitable for can contribute to the improvement of coding efficiency.
  • the higher the correlation around the target block to be encoded the higher the coding efficiency. Therefore, searching the history motion vector predictor candidate list, the element that is considered to have a relatively high correlation with the closest one, that is, By sequentially using new elements stored later as candidates, it is possible to contribute to the improvement of coding efficiency by candidates suitable for the normal merge mode.
  • the bitstream output by the image encoding device has a specific data format so that the bitstream can be decoded according to the encoding method used in the embodiments. There is. Also, the image decoding device corresponding to this image encoding device can decode the bit stream of this specific data format.
  • a wired or wireless network is used to exchange a bitstream between the image encoding device and the image decoding device, even if the bitstream is converted into a data format suitable for the transmission mode of the communication path and then transmitted. Good.
  • a bit stream output from the image coding device is converted into coded data in a data format suitable for the transmission mode of the communication path and transmitted to the network, and a bit stream is generated by receiving the coded data from the network.
  • a receiving device that restores to the image decoding device and supplies the image decoding device with the receiving device.
  • the transmission device includes a memory that buffers the bitstream output by the image encoding device, a packet processing unit that packetizes the bitstream, and a transmission unit that transmits the packetized encoded data via a network.
  • the receiving device receives a packetized encoded data via a network, a memory for buffering the received encoded data, a packet processing of the encoded data to generate a bit stream, and an image decoding And a packet processing unit provided to the device.
  • a display unit may be added by adding a display unit for displaying an image decoded by the image decoding device to the configuration.
  • the display unit reads the decoded image signal generated by the decoded image signal superimposing unit 207 and stored in the decoded image memory 208, and displays it on the screen.
  • an image pickup unit may be added to the configuration, and the picked-up image may be input to the image coding device to form the image pickup device.
  • the imaging unit inputs the captured image signal to the block division unit 101.
  • FIG. 37 shows an example of the hardware configuration of the encoding/decoding device of this embodiment.
  • the encoding/decoding device includes the configurations of the image encoding device and the image decoding device according to the embodiment of the present invention.
  • the encoding/decoding device 9000 includes a CPU 9001, a codec IC 9002, an I/O interface 9003, a memory 9004, an optical disk drive 9005, a network interface 9006, and a video interface 9009, and each unit is connected by a bus 9010.
  • the image encoding unit 9007 and the image decoding unit 9008 are typically implemented as a codec IC 9002.
  • the image encoding process of the image encoding device according to the embodiment of the present invention is executed by the image encoding unit 9007, and the image decoding process of the image decoding device according to the embodiment of the present invention is performed by the image decoding unit 9008.
  • the I/O interface 9003 is realized by a USB interface, for example, and is connected to an external keyboard 9104, mouse 9105, and the like.
  • the CPU 9001 controls the encoding/decoding device 9000 to execute an operation desired by the user, based on the user operation input via the I/O interface 9003.
  • the user's operations using the keyboard 9104, mouse 9105, etc. include selection of which function of encoding or decoding is to be executed, setting of encoding quality, bitstream input/output destination, image input/output destination, and the like.
  • the optical disc drive 9005 When the user desires an operation of reproducing an image recorded on the disc recording medium 9100, the optical disc drive 9005 reads a bitstream from the inserted disc recording medium 9100 and outputs the read bitstream via the bus 9010. It is sent to the image decoding unit 9008 of the codec IC 9002.
  • the image decoding unit 9008 executes the image decoding processing in the image decoding apparatus according to the embodiment of the present invention on the input bitstream, and sends the decoded image to the external monitor 9103 via the video interface 9009.
  • the encoding/decoding device 9000 has a network interface 9006 and can be connected to an external distribution server 9106 and a mobile terminal 9107 via the network 9101.
  • the network interface 9006 sets the input from the input disk recording medium 9100. Instead of reading the bitstream, the bitstream is acquired from the network 9101. Further, when the user desires to reproduce the image recorded in the memory 9004, the image decoding processing in the image decoding device according to the embodiment of the present invention is performed on the bitstream recorded in the memory 9004. To do.
  • the video interface 9009 inputs the image from the camera 9102, and via the bus 9010, the image encoding unit 9007 of the codec IC 9002. Send to.
  • the image coding unit 9007 executes the image coding process in the image coding apparatus according to the embodiment of the present invention on the image input via the video interface 9009 to create a bitstream. Then, the bit stream is sent to the memory 9004 via the bus 9010.
  • the optical disc drive 9005 writes the bitstream to the inserted disc recording medium 9100.
  • Such a hardware configuration is realized, for example, by replacing the codec IC 9002 with the image encoding unit 9007 or the image decoding unit 9008.
  • the above-mentioned processing relating to encoding and decoding may be realized as a transmission, storage, and reception device using hardware, and is also stored in a ROM (read only memory), a flash memory, or the like. It may be realized by firmware or software such as a computer.
  • the firmware program and the software program may be provided by being recorded in a recording medium readable by a computer or the like, provided from a server through a wired or wireless network, or terrestrial or satellite digital broadcasting data broadcasting. May be provided as.
  • 100 image encoding device 101 block division unit, 102 inter prediction unit, 103 intra prediction unit, 104 decoded image memory, 105 prediction method determination unit, 106 residual generation unit, 107 orthogonal transform/quantization unit, 108 bit string encoding Part, 109 dequantization/inverse orthogonal transformation part, 110 decoded image signal superposition part, 111 encoded information storage memory, 200 image decoding device, 201 bit string decoding part, 202 block division part, 203 inter prediction part 204 intra prediction part, 205 coded information storage memory 206 dequantization/inverse orthogonal transformation unit, 207 decoded image signal superposition unit, 208 decoded image memory.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

画像符号化及び復号化に適したブロック分割を行うことにより、符号化効率を向上させる技術を提供する。インター予測で用いたインター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納部と、前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出部と、前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出部とを備え、前記履歴予測動きベクトル候補導出部、及び履歴マージ候補導出部は、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とする。

Description

画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
　本発明は、画像をブロックに分割し、予測を行う画像符号化及び復号技術に関する。
　画像の符号化及び復号では、処理の対象となる画像を所定数の画素の集合であるブロックに分割し、ブロック単位で処理をする。適切なブロックに分割し、画面内予測（イントラ予測）、画面間予測（インター予測）を適切に設定することにより、符号化効率が向上する。
　動画像の符号化・復号では、符号化・復号済みのピクチャから予測するインター予測により符号化効率を向上している。特許文献１には、インター予測の際に、アフィン変換を適用する技術が記載されている。動画像では、物体が拡大・縮小、回転といった変形を伴うことは珍しいことではなく、特許文献１の技術を適用することにより、効率的な符号化が可能となる。
特開平９－１７２６４４号公報
　しかしながら、特許文献１の技術は画像の変換を伴うものであるため、処理負荷が多大という課題がある。本発明は上記の課題に鑑み、低負荷で効率的な符号化技術を提供する。
　上記課題を解決するために、本発明の第１の態様の画像符号化装置は、インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納部と、前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出部と、前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出部とを備え、前記履歴予測動きベクトル候補導出部及び履歴マージ候補導出部は、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とする。
　本発明の第２の態様の画像符号化方法は、インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとを備え、前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とする。
　本発明の第３の態様の画像符号化プログラムは、インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとをコンピュータに実行させ、前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とする。
　本発明の第４の態様の画像復号装置は、インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納部と、前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出部と、前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出部とを備え、前記履歴予測動きベクトル候補導出部、及び履歴マージ候補導出部は、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とする。
　本発明の第５の態様の画像復号方法は、インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとを備え、前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とする。
　本発明の第６の態様の画像復号プログラムであって、インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとをコンピュータに実行させ、前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とする。
　本発明によれば、高効率な画像符号化・復号処理を低負荷で実現することができる。
本発明の実施の形態に係る画像符号化装置のブロック図である。 本発明の実施の形態に係る画像復号装置のブロック図である。 ツリーブロックを分割する動作を説明するためのフローチャートである。 入力された画像をツリーブロックに分割する様子を示す図である。 ｚ－スキャンを説明する図である。 ブロックの分割形状を示す図である。 ブロックの分割形状を示す図である。 ブロックの分割形状を示す図である。 ブロックの分割形状を示す図である。 ブロックの分割形状を示す図である。 ブロックを４分割する動作を説明するためのフローチャートである。 ブロックを２分割または３分割する動作を説明するためのフローチャートである。 ブロック分割の形状を表現するためのシンタックスである。 イントラ予測を説明するための図である。 イントラ予測を説明するための図である。 インター予測の参照ブロックを説明するための図である。 符号化ブロック予測モードを表現するためのシンタックスである。 インター予測に関するシンタックスエレメントとモードの対応を示す図である。 制御点２点のアフィン変換動き補償を説明するための図である。 制御点３点のアフィン変換動き補償を説明するための図である。 図１のインター予測部１０２の詳細な構成のブロック図である。 図１６の通常予測動きベクトルモード導出部３０１の詳細な構成のブロック図である。 図１６の通常マージモード導出部３０２の詳細な構成のブロック図である。 図１６の通常予測動きベクトルモード導出部３０１の通常予測動きベクトルモード導出処理を説明するためのフローチャートである。 通常予測動きベクトルモード導出処理の処理手順を表すフローチャートである。 通常マージモード導出処理の処理手順を説明するフローチャートである。 図２のインター予測部２０３の詳細な構成のブロック図である。 図２２の通常予測動きベクトルモード導出部４０１の詳細な構成のブロック図である。 図２２の通常マージモード導出部４０２の詳細な構成のブロック図である。 図２２の通常予測動きベクトルモード導出部４０１の通常予測動きベクトルモード導出処理を説明するためのフローチャートである。 履歴予測動きベクトル候補リスト初期化・更新処理手順を説明する図である。 履歴予測動きベクトル候補リスト初期化・更新処理手順における、同一要素確認処理手順のフローチャートである。 履歴予測動きベクトル候補リスト初期化・更新処理手順における、要素シフト処理手順のフローチャートである。 履歴予測動きベクトル候補導出処理手順を説明するフローチャートである。 履歴マージ候補導出処理手順を説明するフローチャートである。 履歴予測動きベクトル候補リスト更新処理の一例を説明するための図である。 履歴予測動きベクトル候補リスト更新処理の一例を説明するための図である。 履歴予測動きベクトル候補リスト更新処理の一例を説明するための図である。 Ｌ０予測であってＬ０の参照ピクチャ（ＲｅｆＬ０Ｐｉｃ）が処理対象ピクチャ（ＣｕｒＰｉｃ）より前の時刻にある場合の動き補償予測を説明するための図である。 Ｌ０予測であってＬ０予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合の動き補償予測を説明するための図である。 双予測であってＬ０予測の参照ピクチャが処理対象ピクチャより前の時刻にあって、Ｌ１予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合の動き補償予測の予測方向を説明するための図である。 双予測であってＬ０予測の参照ピクチャとＬ１予測の参照ピクチャが処理対象ピクチャより前の時刻にある場合の動き補償予測の予測方向を説明するための図である。 双予測であってＬ０予測の参照ピクチャとＬ１予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合の動き補償予測の予測方向を説明するための図である。 本発明の実施の形態の符号化復号装置のハードウェア構成の一例を説明するための図である。 履歴予測動きベクトル候補リストの初期化によって追加される履歴予測動きベクトル候補の別の一例を示す表である。 履歴予測動きベクトル候補リストの初期化によって追加される履歴予測動きベクトル候補の別の一例を示す表である。 履歴予測動きベクトル候補リストの初期化によって追加される履歴予測動きベクトル候補の別の一例を示す表である。 履歴予測動きベクトル候補リストの構成を説明するための図である。 履歴予測動きベクトル候補リストへの追加の際に、先頭要素を削除する様子を説明するための図である。 履歴予測動きベクトル候補リストへの追加の際に、リスト内で各要素をシフトする様子を説明するための図である。 履歴予測動きベクトル候補リストへの追加の際に、新たな要素を追加する様子を説明するための図である。 第２の実施の形態の通常マージモードでの履歴予測動きベクトル候補リストの参照順を説明するための図である。 第２の実施の形態の通常予測動きベクトルモードでの履歴予測動きベクトル候補リストの参照順を説明するための図である。 第２の実施の形態の履歴予測動きベクトル候補導出処理手順を説明するフローチャートである。
　本実施の形態において使用する技術、及び技術用語を定義する。
　＜ツリーブロック＞
　実施の形態では、所定の大きさで符号化・復号処理対象画像を均等分割する。この単位をツリーブロックと定義する。図４では、ツリーブロックのサイズを１２８ｘ１２８画素としているが、ツリーブロックのサイズはこれに限定されるものではなく、任意のサイズを設定してよい。処理対象（符号化処理においては符号化対象、復号処理においては復号対象に対応する。）のツリーブロックは、ラスタスキャン順、すなわち左から右、上から下の順序で切り替わる。各ツリーブロックの内部は、さらに再帰的な分割が可能である。ツリーブロックを再帰的に分割した後の、符号化・復号の対象となるブロックを符号化ブロックと定義する。また、ツリーブロック、符号化ブロックを総称してブロックと定義する。適切なブロック分割を行うことにより効率的な符号化が可能となる。ツリーブロックのサイズは、符号化装置と復号装置で予め取り決めた固定値とすることもできるし、符号化装置が決定したツリーブロックのサイズを復号装置に伝送するような構成をとることもできる。ここでは、ツリーブロックの最大サイズを１２８ｘ１２８画素、ツリーブロックの最小サイズを１６ｘ１６画素とする。また、符号化ブロックの最大サイズを６４ｘ６４画素、符号化ブロックの最小サイズを４ｘ４画素とする。
　＜予測モード＞
　処理対象符号化ブロック単位で、処理対象画像の処理済み画像信号から予測を行うイントラ予測（MODE_INTRA）、及び処理済み画像の画像信号から予測を行うインター予測（MODE_INTER）を切り替える。
　処理済み画像は、符号化処理においては符号化が完了した信号を復号した画像、画像信号、ツリーブロック、ブロック、符号化ブロック等に用いられ、復号処理においては復号が完了した画像、画像信号、ツリーブロック、ブロック、符号化ブロック等に用いられる。
　このイントラ予測（MODE_INTRA）とインター予測（MODE_INTER）を識別するモードを予測モード（PredMode）と定義する。予測モード（PredMode）はイントラ予測（MODE_INTRA）、またはインター予測（MODE_INTER）を値として持つ。
　＜インター予測＞
　処理済み画像の画像信号から予測を行うインター予測では、複数の処理済み画像を参照ピクチャとして用いることができる。複数の参照ピクチャを管理するため、Ｌ０（参照リスト０）とＬ１（参照リスト１）の２種類の参照リストを定義し、それぞれ参照インデックスを用いて参照ピクチャを特定する。ＰスライスではＬ０予測（Pred_L0）が利用可能である。ＢスライスではＬ０予測（Pred_L0）、Ｌ１予測（Pred_L1）、双予測（Pred_BI）が利用可能である。Ｌ０予測（Pred_L0）はＬ０で管理されている参照ピクチャを参照するインター予測であり、Ｌ１予測（Pred_L1）はＬ１で管理されている参照ピクチャを参照するインター予測である。双予測（Pred_BI）はＬ０予測とＬ１予測が共に行われ、Ｌ０とＬ１のそれぞれで管理されている１つずつの参照ピクチャを参照するインター予測である。Ｌ０予測、Ｌ１予測、双予測を特定する情報を、インター予測モードと定義する。以降の処理において出力に添え字ＬＸが付いている定数、変数に関しては、Ｌ０、Ｌ１ごとに処理が行われることを前提とする。
　＜予測動きベクトルモード＞
　予測動きベクトルモードは、予測動きベクトルを特定するためのインデックス、差分動きベクトル、インター予測モード、参照インデックスを伝送し、処理対象ブロックのインター予測情報を決定するモードである。予測動きベクトルは、処理対象ブロックに隣接する処理済みブロック、または処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近（近傍）に位置するブロックから導出した予測動きベクトル候補と、予測動きベクトルを特定するためのインデックスから導出する。
　＜マージモード＞
　マージモードは、差分動きベクトル、参照インデックスを伝送せずに、処理対象ブロックに隣接する処理済みブロック、または処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近（近傍）に位置するブロックのインター予測情報から、処理対象ブロックのインター予測情報を導出するモードである。
　処理対象ブロックに隣接する処理済みブロック、およびその処理済みブロックのインター予測情報を空間マージ候補と定義する。処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近（近傍）に位置するブロック、およびそのブロックのインター予測情報から導出されるインター予測情報を時間マージ候補と定義する。各マージ候補はマージ候補リストに登録され、マージインデックスにより、処理対象ブロックの予測で使用するマージ候補を特定する。
　＜隣接ブロック＞
　図１１は、予測動きベクトルモード、マージモードで、インター予測情報を導出するために参照する参照ブロックを説明する図である。Ａ０，Ａ１，Ａ２，Ｂ０，Ｂ１，Ｂ２，Ｂ３は、処理対象ブロックに隣接する処理済みブロックである。Ｔ０は、処理済み画像に属するブロックで、処理対象画像における処理対象ブロックと同一位置またはその付近（近傍）に位置するブロックである。
　Ａ１，Ａ２は、処理対象符号化ブロックの左側に位置し、処理対象符号化ブロックに隣接するブロックである。Ｂ１，Ｂ３は、処理対象符号化ブロックの上側に位置し、処理対象符号化ブロックに隣接するブロックである。Ａ０，Ｂ０，Ｂ２はそれぞれ、処理対象符号化ブロックの左下、右上、左上に位置するブロックである。
　予測動きベクトルモード、マージモードにおいて隣接ブロックをどのように扱うかの詳細については後述する。
　＜アフィン変換動き補償＞
　アフィン変換動き補償は、符号化ブロックを所定単位のサブブロックに分割し、分割された各サブブロックに対して個別に動きベクトルを決定して動き補償を行うものである。各サブブロックの動きベクトルは、処理対象ブロックに隣接する処理済みブロック、または処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近（近傍）に位置するブロックのインター予測情報から導出する１つ以上の制御点に基づき導出する。本実施の形態では、サブブロックのサイズを４ｘ４画素とするが、サブブロックのサイズはこれに限定されるものではないし、画素単位で動きベクトルを導出してもよい。
　図１４に、制御点が２つの場合のアフィン変換動き補償の例を示す。この場合、２つの制御点が水平方向成分、垂直方向成分の２つのパラメータを有する。このため、制御点が２つの場合のアフィン変換を、４パラメータアフィン変換と呼称する。図１４のＣＰ１、ＣＰ２が制御点である。
　図１５に、制御点が３つの場合のアフィン変換動き補償の例を示す。この場合、３つの制御点が水平方向成分、垂直方向成分の２つのパラメータを有する。このため、制御点が３つの場合のアフィン変換を、６パラメータアフィン変換と呼称する。図１５のＣＰ１、ＣＰ２、ＣＰ３が制御点である。
　アフィン変換動き補償は、予測動きベクトルモードおよびマージモードのいずれのモードにおいても利用可能である。予測動きベクトルモードでアフィン変換動き補償を適用するモードをサブブロック予測動きベクトルモードと定義し、マージモードでアフィン変換動き補償を適用するモードをサブブロックマージモードと定義する。
　＜インター予測のシンタックス＞
　図１２、図１３を用いて、インター予測に関するシンタックスを説明する。
　図１２のmerge_flagは、処理対象符号化ブロックをマージモードとするか、予測動きベクトルモードとするかを示すフラグである。merge_affine_flagは、マージモードの処理対象符号化ブロックでサブブロックマージモードを適用するか否かを示すフラグである。inter_affine_flagは、予測動きベクトルモードの処理対象符号化ブロックでサブブロック予測動きベクトルモードを適用するか否かを示すフラグである。cu_affine_type_flagは、サブブロック予測動きベクトルモードにおいて、制御点の数を決定するためのフラグである。
　図１３に各シンタックスエレメントの値と、それに対応する予測方法を示す。merge_flag=1,merge_affine_flag=0 は、通常マージモードに対応する。通常マージモードは、サブブロックマージでないマージモードである。merge_flag=1,merge_affine_flag=1は、サブブロックマージモードに対応する。merge_flag=0,inter_affine_flag=0は、通常予測動きベクトルモードに対応する。通常予測動きベクトルモードは、サブブロック予測動きベクトルモードでない予測動きベクトルマージである。merge_flag=0,inter_affine_flag=1は、サブブロック予測動きベクトルモードに対応する。merge_flag=0,inter_affine_flag=1の場合は、さらにcu_affine_type_flagを伝送し、制御点の数を決定する。
　＜ＰＯＣ＞
　ＰＯＣ（Picture Order Count）は符号化されるピクチャに関連付けられる変数であり、ピクチャの出力順序に応じた１ずつ増加する値が設定される。ＰＯＣの値によって、同じピクチャであるかを判別したり、出力順序でのピクチャ間の前後関係を判別したり、ピクチャ間の距離を導出したりすることができる。例えば、２つのピクチャのＰＯＣが同じ値を持つ場合、同一のピクチャであると判断できる。２つのピクチャのＰＯＣが違う値を持つ場合、ＰＯＣの値が小さいピクチャのほうが、先に出力されるピクチャであると判断でき、２つのピクチャのＰＯＣの差が時間軸方向でのピクチャ間距離を示す。
（第１の実施の形態）
　本発明の第１の実施の形態に係る画像符号化装置１００及び画像復号装置２００について説明する。
　図１は、第１の実施の形態に係る画像符号化装置１００のブロック図である。実施の形態の画像符号化装置１００は、ブロック分割部１０１、インター予測部１０２、イントラ予測部１０３、復号画像メモリ１０４、予測方法決定部１０５、残差生成部１０６、直交変換・量子化部１０７、ビット列符号化部１０８、逆量子化・逆直交変換部１０９、復号画像信号重畳部１１０、および符号化情報格納メモリ１１１を備える。
　ブロック分割部１０１は、入力された画像を再帰的に分割して、符号化ブロックを生成する。ブロック分割部１０１は、分割対象となるブロックを水平方向と垂直方向にそれぞれ分割する４分割部と、分割対象となるブロックを水平方向または垂直方向のいずれかに分割する２－３分割部とを含む。ブロック分割部１０１は、生成した符号化ブロックを処理対象符号化ブロックとし、その処理対象符号化ブロックの画像信号を、インター予測部１０２、イントラ予測部１０３および残差生成部１０６に供給する。また、ブロック分割部１０１は、決定した再帰分割構造を示す情報をビット列符号化部１０８に供給する。ブロック分割部１０１の詳細な動作は後述する。
　インター予測部１０２は、処理対象符号化ブロックのインター予測を行う。インター予測部１０２は、符号化情報格納メモリ１１１に格納されているインター予測情報と、復号画像メモリ１０４に格納されている復号済みの画像信号とから、複数のインター予測情報の候補を導出し、導出した複数の候補の中から適したインター予測モードを選択し、選択されたインター予測モード、及び選択されたインター予測モードに応じた予測画像信号を予測方法決定部１０５に供給する。インター予測部１０２の詳細な構成と動作は後述する。
　イントラ予測部１０３は、処理対象符号化ブロックのイントラ予測を行う。イントラ予測部１０３は、復号画像メモリ１０４に格納されている復号済みの画像信号を参照画素として参照し、符号化情報格納メモリ１１１に格納されているイントラ予測モード等の符号化情報に基づくイントラ予測により予測画像信号を生成する。イントラ予測では、イントラ予測部１０３は、複数のイントラ予測モードの中から適したイントラ予測モードを選択し、選択されたイントラ予測モード、及び選択されたイントラ予測モードに応じた予測画像信号を予測方法決定部１０５に供給する。
　図１０Ａ及び図１０Ｂにイントラ予測の例を示す。図１０Ａは、イントラ予測の予測方向とイントラ予測モード番号の対応を示したものである。例えば、イントラ予測モード５０は、垂直方向に参照画素をコピーすることによりイントラ予測画像を生成する。イントラ予測モード１は、ＤＣモードであり、処理対象ブロックのすべての画素値を参照画素の平均値とするモードである。イントラ予測モード０は、Ｐｌａｎａｒモードであり、垂直方向・水平方向の参照画素から２次元的なイントラ予測画像を作成するモードである。図図１０Ｂは、イントラ予測モード４０の場合のイントラ予測画像を生成する例である。イントラ予測部１０３は、処理対象ブロックの各画素に対し、イントラ予測モードの示す方向の参照画素の値をコピーする。イントラ予測部１０３は、イントラ予測モードの参照画素が整数位置でない場合には、周辺の整数位置の参照画素値から補間により参照画素値を決定する。
　復号画像メモリ１０４は、復号画像信号重畳部１１０で生成した復号画像を格納する。復号画像メモリ１０４は、格納している復号画像を、インター予測部１０２、イントラ予測部１０３に供給する。
　予測方法決定部１０５は、イントラ予測とインター予測のそれぞれに対して、符号化情報及び残差の符号量、予測画像信号と処理対象画像信号との間の歪量等を用いて評価することにより、最適な予測モードを決定する。イントラ予測の場合は、予測方法決定部１０５は、イントラ予測モード等のイントラ予測情報を符号化情報としてビット列符号化部１０８に供給する。インター予測のマージモードの場合は、予測方法決定部１０５は、マージインデックス、サブブロックマージモードか否かを示す情報（サブブロックマージフラグ）等のインター予測情報を符号化情報としてビット列符号化部１０８に供給する。インター予測の予測動きベクトルモードの場合は、予測方法決定部１０５は、インター予測モード、予測動きベクトルインデックス、Ｌ０、Ｌ１の参照インデックス、差分動きベクトル、サブブロック予測動きベクトルモードか否かを示す情報（サブブロック予測動きベクトルフラグ）等のインター予測情報を符号化情報としてビット列符号化部１０８に供給する。さらに、予測方法決定部１０５は、決定した符号化情報を符号化情報格納メモリ１１１に供給する。予測方法決定部１０５は、残差生成部１０６及び予測画像信号を復号画像信号重畳部１１０に供給する。
　残差生成部１０６は、処理対象の画像信号から予測画像信号を減ずることにより残差を生成し、直交変換・量子化部１０７に供給する。
　直交変換・量子化部１０７は、残差に対して量子化パラメータに応じて直交変換及び量子化を行い直交変換・量子化された残差を生成し、生成した残差をビット列符号化部１０８と逆量子化・逆直交変換部１０９とに供給する。
　ビット列符号化部１０８は、シーケンス、ピクチャ、スライス、符号化ブロック単位の情報に加えて、符号化ブロック毎に予測方法決定部１０５によって決定された予測方法に応じた符号化情報を符号化する。具体的には、ビット列符号化部１０８は、符号化ブロック毎の予測モードPredModeを符号化する。予測モードがインター予測（MODE_INTER）の場合、ビット列符号化部１０８は、マージモードか否かを判別するフラグ、サブブロックマージフラグ、マージモードの場合はマージインデックス、マージモードでない場合はインター予測モード、予測動きベクトルインデックス、差分動きベクトルに関する情報、サブブロック予測動きベクトルフラグ等の符号化情報（インター予測情報）を規定のシンタックス（ビット列の構文規則）に従って符号化し、第１のビット列を生成する。予測モードがイントラ予測（MODE_INTRA）の場合、イントラ予測モード等の符号化情報（イントラ予測情報）を規定のシンタックス（ビット列の構文規則）に従って符号化し、第１のビット列を生成する。また、ビット列符号化部１０８は、直交変換及び量子化された残差を規定のシンタックスに従ってエントロピー符号化して第２のビット列を生成する。ビット列符号化部１０８は、第１のビット列と第２のビット列を規定のシンタックスに従って多重化し、ビットストリームを出力する。
　逆量子化・逆直交変換部１０９は、直交変換・量子化部１０７から供給された直交変換・量子化された残差を逆量子化及び逆直交変換して残差を算出し、算出した残差を復号画像信号重畳部１１０に供給する。
　復号画像信号重畳部１１０は、予測方法決定部１０５による決定に応じた予測画像信号と逆量子化・逆直交変換部１０９で逆量子化及び逆直交変換された残差を重畳して復号画像を生成し、復号画像メモリ１０４に格納する。なお、復号画像信号重畳部１１０は、復号画像に対して符号化によるブロック歪等の歪を減少させるフィルタリング処理を施した後、復号画像メモリ１０４に格納してもよい。
　符号化情報格納メモリ１１１は、予測方法決定部１０５で決定した、予測モード（インター予測またはイントラ予測）等の符号化情報を格納する。インター予測の場合は、符号化情報格納メモリ１１１が格納する符号化情報には、決定した動きベクトル、参照リストＬ０、Ｌ１の参照インデックス、履歴予測動きベクトル候補リスト等のインター予測情報が含まれる。またインター予測のマージモードの場合は、符号化情報格納メモリ１１１が格納する符号化情報には、上述の各情報に加え、マージインデックス、サブブロックマージモードか否かを示す情報（サブブロックマージフラグ）のインター予測情報が含まれる。またインター予測の予測動きベクトルモードの場合は、符号化情報格納メモリ１１１が格納する符号化情報には、上述の各情報に加え、インター予測モード、予測動きベクトルインデックス、差分動きベクトル、サブブロック予測動きベクトルモードか否かを示す情報（サブブロック予測動きベクトルフラグ）等のインター予測情報が含まれる。イントラ予測の場合は、符号化情報格納メモリ１１１が格納する符号化情報には、決定したイントラ予測モード等のイントラ予測情報が含まれる。
　図２は、図１の画像符号化装置に対応した本発明の実施の形態に係る画像復号装置の構成を示すブロックである。実施の形態の画像復号装置は、ビット列復号部２０１、ブロック分割部２０２、インター予測部２０３、イントラ予測部２０４、符号化情報格納メモリ２０５、逆量子化・逆直交変換部２０６、復号画像信号重畳部２０７、および復号画像メモリ２０８を備える。
　図２の画像復号装置の復号処理は、図１の画像符号化装置の内部に設けられている復号処理に対応するものであるから、図２の符号化情報格納メモリ２０５、逆量子化・逆直交変換部２０６、復号画像信号重畳部２０７、および復号画像メモリ２０８の各構成は、図１の画像符号化装置の符号化情報格納メモリ１１１、逆量子化・逆直交変換部１０９、復号画像信号重畳部１１０、および復号画像メモリ１０４の各構成とそれぞれ対応する機能を有する。
　ビット列復号部２０１に供給されるビットストリームは、規定のシンタックスの規則に従って分離される。ビット列復号部２０１は、分離された第１のビット列を復号し、シーケンス、ピクチャ、スライス、符号化ブロック単位の情報、及び、符号化ブロック単位の符号化情報を得る。具体的には、ビット列復号部２０１は、符号化ブロック単位でインター予測（MODE_INTER）かイントラ予測（MODE_INTRA）かを判別する予測モードPredModeを復号する。予測モードがインター予測（MODE_INTER）の場合、ビット列復号部２０１は、マージモードか否かを判別するフラグ、マージモードの場合はマージインデックス、サブブロックマージフラグ、予測動きベクトルモードである場合はインター予測モード、予測動きベクトルインデックス、差分動きベクトル、サブブロック予測動きベクトルフラグ等に関する符号化情報（インター予測情報）を規定のシンタックスに従って復号し、符号化情報（インター予測情報）をインター予測部２０３、およびブロック分割部２０２を介して符号化情報格納メモリ２０５に供給する。予測モードがイントラ予測（MODE_INTRA）の場合、イントラ予測モード等の符号化情報（イントラ予測情報）を規定のシンタックスに従って復号し、符号化情報（イントラ予測情報）をインター予測部２０３またはイントラ予測部２０４、およびブロック分割部２０２を介して符号化情報格納メモリ２０５に供給する。ビット列復号部２０１は、分離した第２のビット列を復号して直交変換・量子化された残差を算出し、直交変換・量子化された残差を逆量子化・逆直交変換部２０６に供給する。
　インター予測部２０３は、処理対象の符号化ブロックの予測モードPredModeがインター予測（MODE_INTER）で予測動きベクトルモードである時に、符号化情報格納メモリ２０５に記憶されている既に復号された画像信号の符号化情報を用いて、複数の予測動きベクトルの候補を導出して、導出した複数の予測動きベクトルの候補を、後述する予測動きベクトル候補リストに登録する。インター予測部２０３は、予測動きベクトル候補リストに登録された複数の予測動きベクトルの候補の中から、ビット列復号部２０１で復号され供給される予測動きベクトルインデックスに応じた予測動きベクトルを選択し、ビット列復号部２０１で復号された差分動きベクトルと選択された予測動きベクトルから動きベクトルを算出し、算出した動きベクトルを他の符号化情報とともに符号化情報格納メモリ２０５に格納する。ここで供給・格納する符号化ブロックの符号化情報は、予測モードPredMode、Ｌ０予測、及びＬ１予測を利用するか否かを示すフラグpredFlagL0[xP][yP], predFlagL1[xP][yP]、Ｌ０、Ｌ１の参照インデックスrefIdxL0[xP][yP], refIdxL1[xP][yP]、Ｌ０、Ｌ１の動きベクトルmvL0[xP][yP], mvL1[xP][yP]等である。ここで、xP、yPはピクチャ内での符号化ブロックの左上の画素の位置を示すインデックスである。予測モードPredModeがインター予測（MODE_INTER）で、インター予測モードがＬ０予測（Pred_L0）の場合、Ｌ０予測を利用するか否かを示すフラグpredFlagL0は１、Ｌ１予測を利用するか否かを示すフラグpredFlagL1は０である。インター予測モードがＬ１予測（Pred_L1）の場合、Ｌ０予測を利用するか否かを示すフラグpredFlagL0は０、Ｌ１予測を利用するか否かを示すフラグpredFlagL1は１である。インター予測モードが双予測（Pred_BI）の場合、Ｌ０予測を利用するか否かを示すフラグpredFlagL0、Ｌ１予測を利用するか否かを示すフラグpredFlagL1は共に１である。さらに、処理対象の符号化ブロックの予測モードPredModeがインター予測（MODE_INTER）でマージモードの時に、マージ候補を導出する。符号化情報格納メモリ２０５に記憶されている既に復号された符号化ブロックの符号化情報を用いて、複数のマージの候補を導出して後述するマージ候補リストに登録し、マージ候補リストに登録された複数のマージ候補の中からビット列復号部２０１で復号され供給されるマージインデックスに対応したマージ候補を選択し、選択されたマージ候補のＬ０予測、及びＬ１予測を利用するか否かを示すフラグpredFlagL0[xP][yP], predFlagL1[xP][yP]、Ｌ０、Ｌ１の参照インデックスrefIdxL0[xP][yP], refIdxL1[xP][yP]、Ｌ０、Ｌ１の動きベクトルmvL0[xP][yP], mvL1[xP][yP]等のインター予測情報を符号化情報格納メモリ２０５に格納する。ここで、xP、yPはピクチャ内での符号化ブロックの左上の画素の位置を示すインデックスである。インター予測部２０３の詳細な構成と動作は後述する。
　イントラ予測部２０４は、処理対象の符号化ブロックの予測モードPredModeがイントラ予測（MODE_INTRA）の時に、イントラ予測を行う。ビット列復号部２０１で復号された符号化情報にはイントラ予測モードが含まれている。イントラ予測部２０４は、ビット列復号部２０１で復号された符号化情報に含まれるイントラ予測モードに応じて、復号画像メモリ２０８に格納されている復号済みの画像信号からイントラ予測により予測画像信号を生成し、生成した予測画像信号を復号画像信号重畳部２０７に供給する。イントラ予測部２０４は、画像符号化装置１００のイントラ予測部１０３に対応するものであるから、イントラ予測部１０３と同様の処理を行う。
　逆量子化・逆直交変換部２０６は、ビット列復号部２０１で復号された直交変換・量子化された残差に対して逆直交変換及び逆量子化を行い、逆直交変換・逆量子化された残差を得る。
　復号画像信号重畳部２０７は、インター予測部２０３でインター予測された予測画像信号、またはイントラ予測部２０４でイントラ予測された予測画像信号と、逆量子化・逆直交変換部２０６により逆直交変換・逆量子化された残差とを重畳することにより、復号画像信号を復号し、復号した復号画像信号を復号画像メモリ２０８に格納する。復号画像メモリ２０８に格納する際には、復号画像信号重畳部２０７は、復号画像に対して符号化によるブロック歪等を減少させるフィルタリング処理を施した後、復号画像メモリ２０８に格納してもよい。
　次に、画像符号化装置１００におけるブロック分割部１０１の動作について説明する。図３は、画像をツリーブロックに分割し、各ツリーブロックをさらに分割する動作を示すフローチャートである。まず、入力された画像を、所定サイズのツリーブロックに分割する（ステップＳ１００１）。各ツリーブロックについては、所定の順序、すなわちラスタスキャン順に走査し（ステップＳ１００２）、処理対象のツリーブロックの内部を分割する（ステップＳ１００３）。
　図７は、ステップＳ１００３の分割処理の詳細動作を示すフローチャートである。まず、処理対象のブロックを４分割するか否かを判断する（ステップＳ１１０１）。
　処理対象ブロックを４分割すると判断した場合は、処理対象ブロックを４分割する（ステップＳ１１０２）。処理対象ブロックを分割した各ブロックについて、Ｚスキャン順、すなわち左上、右上、左下、右下の順に走査する（ステップＳ１１０３）。図５は、Ｚスキャン順の例であり、図６Ａの６０１は、処理対象ブロックを４分割した例である。図６Ａの６０１の番号０～３は処理の順番を示したものである。そしてステップＳ１１０１で分割した各ブロックについて、図７の分割処理を再帰的に実行する（ステップＳ１１０４）。
　処理対象ブロックを４分割しないと判断した場合は、２－３分割を行う（ステップＳ１１０５）。
　図８は、ステップＳ１１０５の２－３分割処理の詳細動作を示すフローチャートである。まず、処理対象のブロックを２－３分割するか否か、すなわち２分割または３分割の何れかを行うか否かを判断する（ステップＳ１２０１）。
　処理対象ブロックを２－３分割すると判断しない場合、すなわち分割しないと判断した場合は、分割を終了する（ステップＳ１２１１）。つまり、再帰的な分割処理により分割されたブロックに対して、さらなる再帰的な分割処理はしない。
　処理対象のブロックを２－３分割すると判断した場合は、さらに処理対象ブロックを２分割するか否か（ステップＳ１２０２）を判断する。
　処理対象ブロックを２分割すると判断した場合は、処理対象ブロックを上下（垂直方向）に分割するか否かを判断し（ステップＳ１２０３）、その結果に基づき、処理対象ブロックを上下（垂直方向）に２分割する（ステップＳ１２０４）か、処理対象ブロックを左右（水平方向）に２分割する（ステップＳ１２０５）。ステップＳ１２０４の結果、処理対象ブロックは、図６Ｂの６０２に示す通り、上下（垂直方向）２分割に分割され、ステップＳ１２０５の結果、処理対象ブロックは、図６Ｄの６０４に示す通り、左右（水平方向）２分割に分割される。
　ステップＳ１２０２において、処理対象のブロックを２分割すると判断しなかった場合、すなわち３分割すると判断した場合は、処理対象ブロックを上中下（垂直方向）に分割するか否かを判断し（ステップＳ１２０６）、その結果に基づき、処理対象ブロックを上中下（垂直方向）に３分割する（ステップＳ１２０７）か、処理対象ブロックを左中右（水平方向）に３分割する（ステップＳ１２０８）。ステップＳ１２０７の結果、処理対象ブロックは、図６Ｃの６０３に示す通り、上中下（垂直方向）３分割に分割され、ステップＳ１２０８の結果、処理対象ブロックは、図６Ｅの６０５に示す通り、左中右（水平方向）３分割に分割される。
　ステップＳ１２０４、ステップＳ１２０５、ステップＳ１２０７、ステップＳ１２０８のいずれかを実行後、処理対象ブロックを分割した各ブロックについて、左から右、上から下の順に走査する（ステップＳ１２０９）。図６Ｂ～Ｅの６０２から６０５の番号０～２は処理の順番を示したものである。分割した各ブロックについて、図８の２－３分割処理を再帰的に実行する（ステップＳ１２１０）。
　ここで説明した再帰的なブロック分割は、分割する回数、または、処理対象のブロックのサイズ等により、分割要否を制限してもよい。分割要否を制限する情報は、符号化装置と復号化装置の間で予め取り決めを行うことで、情報の伝達を行わない構成で実現してもよいし、符号化装置が分割要否を制限する情報を決定し、ビット列に記録することにより、復号化装置に伝達する構成で実現してもよい。
　あるブロックを分割したとき、分割前のブロックを親ブロックと呼び、分割後の各ブロックを子ブロックと呼ぶ。
　次に、画像復号装置２００におけるブロック分割部２０２の動作について説明する。ブロック分割部２０２は、画像符号化装置１００のブロック分割部１０１と同様の処理手順でツリーブロックを分割するものである。ただし、画像符号化装置１００のブロック分割部１０１では、画像認識による最適形状の推定や歪レート最適化等最適化手法を適用し、最適なブロック分割の形状を決定するのに対し、画像復号装置２００におけるブロック分割部２０２は、ビット列に記録されたブロック分割情報を復号することにより、ブロック分割形状を決定する点が異なる。
　第１の実施の形態のブロック分割に関するシンタックス（ビット列の構文規則）を図９に示す。coding_quadtree()はブロックの４分割処理にかかるシンタックスを表す。multi_type_tree()はブロックの２分割または３分割処理にかかるシンタックスを表す。qt_splitはブロックを４分割するか否かを示すフラグである。ブロックを４分割する場合は、qt_split=1とし、４分割しない場合は、qt_split=0とする。４分割する場合(qt_split=1)、４分割した各ブロックについて、再帰的に４分割処理をする(coding_quadtree(0), coding_quadtree(1), coding_quadtree(2), coding_quadtree(3)、引数の０～３は図６Ａの６０１の番号に対応する。)。４分割しない場合(qt_split=0)は、multi_type_tree()に従い、後続の分割を決定する。mtt_splitは、さらに分割をするか否かを示すフラグである。さらに分割をする場合(mtt_split=1)、垂直方向に分割するか水平方向に分割するかを示すフラグであるmtt_split_verticalと、２分割するか３分割するかを決定するフラグであるmtt_split_binaryを伝送する。mtt_split_vertical=1は、垂直方向に分割することを示し、mtt_split_vertical=0は、水平方向に分割することを示す。mtt_split_binary=1は、２分割することを示し、mtt_split_binary=0は３分割することを示す。２分割する場合(mtt_split_binary=1)、２分割した各ブロックについて、再帰的に分割処理をする(multi_type_tree(0), multi_type_tree(1)、引数の０～１は図６Ｂ～Ｄの６０２または６０４の番号に対応する。)。３分割する場合(mtt_split_binary=0)、３分割した各ブロックについて、再帰的に分割処理をする(multi_type_tree(0), multi_type_tree(1), multi_type_tree(2)、０～２は図６Ｂの６０３または図６Ｅの６０５の番号に対応する。)。mtt_split=0となるまで、再帰的にmulti_type_treeを呼び出すことにより、階層的なブロック分割を行う。
　＜インター予測＞
　実施の形態に係るインター予測方法は、図１の画像符号化装置のインター予測部１０２および図２の画像復号装置のインター予測部２０３において実施される。
　実施の形態によるインター予測方法について、図面を用いて説明する。インター予測方法は符号化ブロック単位で符号化及び復号の処理の何れでも実施される。
　＜符号化側のインター予測部１０２の説明＞
　図１６は図１の画像符号化装置のインター予測部１０２の詳細な構成を示す図である。通常予測動きベクトルモード導出部３０１は、複数の通常予測動きベクトル候補を導出して予測動きベクトルを選択し、選択した予測動きベクトルと、検出された動きベクトルとの差分動きベクトルを算出する。検出されたインター予測モード、参照インデックス、動きベクトル、算出された差分動きベクトルが通常予測動きベクトルモードのインター予測情報となる。このインター予測情報がインター予測モード判定部３０５に供給される。通常予測動きベクトルモード導出部３０１の詳細な構成と処理については後述する。
　通常マージモード導出部３０２では複数の通常マージ候補を導出して通常マージ候補を選択し、通常マージモードのインター予測情報を得る。このインター予測情報がインター予測モード判定部３０５に供給される。通常マージモード導出部３０２の詳細な構成と処理については後述する。
　サブブロック予測動きベクトルモード導出部３０３では複数のサブブロック予測動きベクトル候補を導出してサブブロック予測動きベクトルを選択し、選択したサブブロック予測動きベクトルと、検出した動きベクトルとの差分動きベクトルを算出する。検出されたインター予測モード、参照インデックス、動きベクトル、算出された差分動きベクトルがサブブロック予測動きベクトルモードのインター予測情報となる。このインター予測情報がインター予測モード判定部３０５に供給される。
　サブブロックマージモード導出部３０４では複数のサブブロックマージ候補を導出してサブブロックマージ候補を選択し、サブブロックマージモードのインター予測情報を得る。このインター予測情報がインター予測モード判定部３０５に供給される。
　インター予測モード判定部３０５では通常予測動きベクトルモード導出部３０１、通常マージモード導出部３０２、サブブロック予測動きベクトルモード導出部３０３、サブブロックマージモード導出部３０４から供給されるインター予測情報に基づいて、インター予測情報を判定する。インター予測モード判定部３０５から判定結果に応じたインター予測情報が動き補償予測部３０６に供給される。
　動き補償予測部３０６では判定されたインター予測情報に基づいて、復号画像メモリ１０４に格納されている参照画像信号に対してインター予測を行う。動き補償予測部３０６の詳細な構成と処理については後述する。
　＜復号側のインター予測部２０３の説明＞
　図２２は図２の画像復号装置のインター予測部２０３の詳細な構成を示す図である。
　通常予測動きベクトルモード導出部４０１は複数の通常予測動きベクトル候補を導出して予測動きベクトルを選択し、選択した予測動きベクトルと、復号した差分動きベクトルとの加算値を算出して動きベクトルとする。復号されたインター予測モード、参照インデックス、動きベクトルが通常予測動きベクトルモードのインター予測情報となる。このインター予測情報がスイッチ４０８を経由して動き補償予測部４０６に供給される。通常予測動きベクトルモード導出部４０１の詳細な構成と処理については後述する。
　通常マージモード導出部４０２では複数の通常マージ候補を導出して通常マージ候補を選択し、通常マージモードのインター予測情報を得る。このインター予測情報がスイッチ４０８を経由して動き補償予測部４０６に供給される。通常マージモード導出部４０２の詳細な構成と処理については後述する。
　サブブロック予測動きベクトルモード導出部４０３では複数のサブブロック予測動きベクトル候補を導出してサブブロック予測動きベクトルを選択し、選択したサブブロック予測動きベクトルと、復号した差分動きベクトルとの加算値を算出して動きベクトルとする。復号されたインター予測モード、参照インデックス、動きベクトルがサブブロック予測動きベクトルモードのインター予測情報となる。このインター予測情報がスイッチ４０８を経由して動き補償予測部４０６に供給される。
　サブブロックマージモード導出部４０４では複数のサブブロックマージ候補を導出してサブブロックマージ候補を選択し、サブブロックマージモードのインター予測情報を得る。このインター予測情報がスイッチ４０８を経由して動き補償予測部４０６に供給される。
　動き補償予測部４０６では判定されたインター予測情報に基づいて、復号画像メモリ２０８に格納されている参照画像信号に対してインター予測を行う。動き補償予測部４０６の詳細な構成と処理については符号化側の動き補償予測部３０６と同様である。
　＜通常予測動きベクトルモード導出部（通常AMVP）＞
　図１７の通常予測動きベクトルモード導出部３０１は、空間予測動きベクトル候補導出部３２１、時間予測動きベクトル候補導出部３２２、履歴予測動きベクトル候補導出部３２３、予測動きベクトル候補補充部３２５、通常動きベクトル検出部３２６、予測動きベクトル候補選択部３２７、動きベクトル減算部３２８を含む。
　図２３の通常予測動きベクトルモード導出部４０１は、空間予測動きベクトル候補導出部４２１、時間予測動きベクトル候補導出部４２２、履歴予測動きベクトル候補導出部４２３、予測動きベクトル候補補充部４２５、予測動きベクトル候補選択部４２６、動きベクトル加算部４２７を含む。
　符号化側の通常予測動きベクトルモード導出部３０１および復号側の通常予測動きベクトルモード導出部４０１の処理手順について、それぞれ図１９、図２５のフローチャートを用いて説明する。図１９は符号化側の通常動きベクトルモード導出部３０１による通常予測動きベクトルモード導出処理手順を示すフローチャートであり、図２５は復号側の通常動きベクトルモード導出部４０１による通常予測動きベクトルモード導出処理手順を示すフローチャートである。
　＜通常予測動きベクトルモード導出部（通常AMVP）：符号化側の説明＞
　図１９を参照して符号化側の通常予測動きベクトルモード導出処理手順を説明する。図１９の処理手順の説明において、図１９に示した通常という言葉を省略することがある。
　まず、通常動きベクトル検出部３２６でインター予測モードおよび参照インデックス毎に通常動きベクトルを検出する（図１９のステップＳ１００）。
　続いて、空間予測動きベクトル候補導出部３２１、時間予測動きベクトル候補導出部３２２、履歴予測動きベクトル候補導出部３２３、予測動きベクトル候補補充部３２５、予測動きベクトル候補選択部３２７、動きベクトル減算部３２８で、通常予測動きベクトルモードのインター予測で用いる動きベクトルの差分動きベクトルをＬ０、Ｌ１毎にそれぞれ算出する（図１９のステップＳ１０１～Ｓ１０６）。具体的には処理対象ブロックの予測モードPredModeがインター予測（MODE_INTER）で、インター予測モードがＬ０予測（Pred_L0）の場合、Ｌ０の予測動きベクトル候補リストmvpListL0を算出して、予測動きベクトルmvpL0を選択し、Ｌ０の動きベクトルmvL0の差分動きベクトルmvdL0を算出する。処理対象ブロックのインター予測モードがＬ１予測（Pred_L1）の場合、Ｌ１の予測動きベクトル候補リストmvpListL1を算出して、予測動きベクトルmvpL1を選択し、Ｌ１の動きベクトルmvL1の差分動きベクトルmvdL1を算出する。処理対象ブロックのインター予測モードが双予測（Pred_BI）の場合、Ｌ０予測とＬ１予測が共に行われ、Ｌ０の予測動きベクトル候補リストmvpListL0を算出して、Ｌ０の予測動きベクトルmvpL0を選択し、Ｌ０の動きベクトルmvL0の差分動きベクトルmvdL0を算出するとともに、Ｌ１の予測動きベクトル候補リストmvpListL1を算出して、Ｌ１の予測動きベクトルmvpL1を算出し、Ｌ１の動きベクトルmvL1の差分動きベクトルmvdL1をそれぞれ算出する。
　Ｌ０、Ｌ１それぞれについて、差分動きベクトル算出処理を行うが、Ｌ０、Ｌ１ともに共通の処理となる。したがって、以下の説明においてはＬ０、Ｌ１を共通のＬＸとして表す。Ｌ０の差分動きベクトルを算出する処理ではＬＸのＸが０であり、Ｌ１の差分動きベクトルを算出する処理ではＬＸのＸが１である。また、ＬＸの差分動きベクトルを算出する処理中に、ＬＸではなく、もう一方のリストの情報を参照する場合、もう一方のリストをＬＹとして表す。
　ＬＸの動きベクトルmvLXを使用する場合（図１９のステップＳ１０２：ＹＥＳ）、ＬＸの予測動きベクトルの候補を算出してＬＸの予測動きベクトル候補リストmvpListLXを構築する（図１９のステップＳ１０３）。通常予測動きベクトルモード導出部３０１の中の空間予測動きベクトル候補導出部３２１、時間予測動きベクトル候補導出部３２２、履歴予測動きベクトル候補導出部３２３、予測動きベクトル候補補充部３２５で複数の予測動きベクトルの候補を導出して予測動きベクトル候補リストmvpListLXを構築する。図１９のステップＳ１０３の詳細な処理手順については図２０のフローチャートを用いて後述する。
　続いて、予測動きベクトル候補選択部３２７により、ＬＸの予測動きベクトル候補リストmvpListLXからＬＸの予測動きベクトルmvpLXを選択する（図１９のステップＳ１０４）。ここで、予測動きベクトル候補リストmvpListLXの中で、ある１つの要素（０から数えてｉ番目の要素）をmvpListLX[i]として表す。動きベクトルmvLXと予測動きベクトル候補リストmvpListLXの中に格納された各予測動きベクトルの候補mvpListLX[i]との差分であるそれぞれの差分動きベクトルを算出する。それら差分動きベクトルを符号化したときの符号量を予測動きベクトル候補リストmvpListLXの要素（予測動きベクトル候補）ごとに算出する。そして、予測動きベクトル候補リストmvpListLXに登録された各要素の中で、予測動きベクトルの候補毎の符号量が最小となる予測動きベクトルの候補mvpListLX[i]を予測動きベクトルmvpLXとして選択し、そのインデックスiを取得する。予測動きベクトル候補リストmvpListLXの中で最小の発生符号量となる予測動きベクトルの候補が複数存在する場合には、予測動きベクトル候補リストmvpListLXの中のインデックスiが小さい番号で表される予測動きベクトルの候補mvpListLX[i]を最適な予測動きベクトルmvpLXとして選択し、そのインデックスiを取得する。
　続いて、動きベクトル減算部３２８で、ＬＸの動きベクトルmvLXから選択されたＬＸの予測動きベクトルmvpLXを減算し、
　　mvdLX = mvLX - mvpLX
としてＬＸの差分動きベクトルmvdLXを算出する（図１９のステップＳ１０５）。
　＜通常予測動きベクトルモード導出部（通常AMVP）：復号側の説明＞
　次に、図２５を参照して復号側の通常予測動きベクトルモード処理手順を説明する。復号側では、空間予測動きベクトル候補導出部４２１、時間予測動きベクトル候補導出部４２２、履歴予測動きベクトル候補導出部４２３、予測動きベクトル候補補充部４２５で、通常予測動きベクトルモードのインター予測で用いる動きベクトルをＬ０，Ｌ１毎にそれぞれ算出する（図２５のステップＳ２０１～Ｓ２０６）。具体的には処理対象ブロックの予測モードPredModeがインター予測（MODE_INTER）で、処理対象ブロックのインター予測モードがＬ０予測（Pred_L0）の場合、Ｌ０の予測動きベクトル候補リストmvpListL0を算出して、予測動きベクトルmvpL0を選択し、Ｌ０の動きベクトルmvL0を算出する。処理対象ブロックのインター予測モードがＬ１予測（Pred_L1）の場合、Ｌ１の予測動きベクトル候補リストmvpListL1を算出して、予測動きベクトルmvpL1を選択し、Ｌ１の動きベクトルmvL1を算出する。処理対象ブロックのインター予測モードが双予測（Pred_BI）の場合、Ｌ０予測とＬ１予測が共に行われ、Ｌ０の予測動きベクトル候補リストmvpListL0を算出して、Ｌ０の予測動きベクトルmvpL0を選択し、Ｌ０の動きベクトルmvL0を算出するとともに、Ｌ１の予測動きベクトル候補リストmvpListL1を算出して、Ｌ１の予測動きベクトルmvpL1を算出し、Ｌ１の動きベクトルmvL1をそれぞれ算出する。
　符号化側と同様に、復号側でもＬ０、Ｌ１それぞれについて、動きベクトル算出処理を行うが、Ｌ０、Ｌ１ともに共通の処理となる。したがって、以下の説明においてはＬ０、Ｌ１を共通のＬＸとして表す。ＬＸは処理対象の符号化ブロックのインター予測に用いるインター予測モードを表す。Ｌ０の動きベクトルを算出する処理ではＸが０であり、Ｌ１の動きベクトルを算出する処理ではＸが１である。また、ＬＸの動きベクトルを算出する処理中に、算出対象のＬＸと同じ参照リストではなく、もう一方の参照リストの情報を参照する場合、もう一方の参照リストをＬＹとして表す。
　ＬＸの動きベクトルmvLXを使用する場合（図２５のステップＳ２０２：ＹＥＳ）、ＬＸの予測動きベクトルの候補を算出してＬＸの予測動きベクトル候補リストmvpListLXを構築する（図２５のステップＳ２０３）。通常予測動きベクトルモード導出部４０１の中の空間予測動きベクトル候補導出部４２１、時間予測動きベクトル候補導出部４２２、履歴予測動きベクトル候補導出部４２３、予測動きベクトル候補補充部４２５で複数の予測動きベクトルの候補を算出し、予測動きベクトル候補リストmvpListLXを構築する。図２５のステップＳ２０３の詳細な処理手順については図２０のフローチャートを用いて後述する。
　続いて、予測動きベクトル候補選択部４２６で予測動きベクトル候補リストmvpListLXからビット列復号部２０１にて復号されて供給される予測動きベクトルのインデックスmvpIdxLXに対応する予測動きベクトルの候補mvpListLX[mvpIdxLX]を選択された予測動きベクトルmvpLXとして取り出す（図２５のステップＳ２０４）。
　続いて、動きベクトル加算部４２７でビット列復号部２０１にて復号されて供給されるＬＸの差分動きベクトルmvdLXとＬＸの予測動きベクトルmvpLXを加算し、
　　mvLX = mvpLX + mvdLX
としてＬＸの動きベクトルmvLXを算出する（図２５のステップＳ２０５）。
　＜通常予測動きベクトルモード導出部（通常AMVP）：動きベクトルの予測方法＞
　図２０は本発明の実施の形態に係る画像符号化装置の通常予測動きベクトルモード導出部３０１及び画像復号装置の通常予測動きベクトルモード導出部４０１とで共通する機能を有する通常予測動きベクトルモード導出処理の処理手順を表すフローチャートである。
　通常予測動きベクトルモード導出部３０１及び通常予測動きベクトルモード導出部４０１では、予測動きベクトル候補リストmvpListLXを備えている。予測動きベクトル候補リストmvpListLXはリスト構造を成し、予測動きベクトル候補リスト内部の所在を示す予測動きベクトルインデックスと、インデックスに対応する予測動きベクトル候補とを要素として格納する記憶領域が設けられている。予測動きベクトルインデックスの数字は０から開始され、予測動きベクトル候補リストmvpListLXの記憶領域に、予測動きベクトル候補が格納される。本実施の形態においては、予測動きベクトル候補リストmvpListLXは少なくとも２個の予測動きベクトル候補（インター予測情報）を登録することができるものとする。さらに、予測動きベクトル候補リストmvpListLXに登録されている予測動きベクトル候補数を示す変数numCurrMvpCandに０を設定する。
　空間予測動きベクトル候補導出部３２１及び４２１は、左側に隣接するブロックからの予測動きベクトルの候補を導出する。この処理では、左側に隣接するブロック（図１１のＡ０またはＡ１）のインター予測情報、すなわち予測動きベクトル候補が利用できるか否かを示すフラグ、及び動きベクトル、参照インデックス等を参照して予測動きベクトルmvLXA導出し、導出したmvLXAを予測動きベクトル候補リストmvpListLXに追加する（図２０のステップＳ３０１）。なお、Ｌ０予測のときＸは０、Ｌ１予測のときＸは１とする（以下同様）。続いて、空間予測動きベクトル候補導出部３２１及び４２１は、上側に隣接するブロックからの予測動きベクトルの候補を導出する。この処理では、上側に隣接するブロック（図１１のＢ０，Ｂ１，またはＢ２）のインター予測情報、すなわち予測動きベクトル候補が利用できるか否かを示すフラグ、及び動きベクトル、参照インデックス等を参照して予測動きベクトルmvLXBを導出し、それぞれ導出したmvLXAとmvLXBとが等しくなければ、mvLXBを予測動きベクトル候補リストmvpListLXに追加する（図２０のステップＳ３０２）。図２０のステップＳ３０１とＳ３０２の処理は参照する隣接ブロックの位置と数が異なる点以外は共通であり、符号化ブロックの予測動きベクトル候補が利用できるか否かを示すフラグavailableFlagLXN、及び動きベクトルmvLXN、参照インデックスrefIdxN（ＮはＡまたはＢを示す、以下同様）を導出する。
　続いて、時間予測動きベクトル候補導出部３２２及び４２２は、現在の処理対象ピクチャとは時間が異なるピクチャにおけるブロックからの予測動きベクトルの候補を導出する。この処理では、異なる時間のピクチャの符号化ブロックの予測動きベクトル候補が利用できるか否かを示すフラグavailableFlagLXCol、及び動きベクトルmvLXCol、参照インデックスrefIdxCol、参照リストlistColを導出し、mvLXColを予測動きベクトル候補リストmvpListLXに追加する（図２０のステップＳ３０３）。
　なお、シーケンス（ＳＰＳ）、ピクチャ（ＰＰＳ）、またはスライスの単位で時間予測動きベクトル候補導出部３２２及び４２２の処理を省略することができるものとする。
　続いて、履歴予測動きベクトル候補導出部３２３及び４２３は履歴予測動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補を予測動きベクトル候補リストmvpListLXに追加する。（図２０のステップＳ３０４）。このステップＳ３０４の登録処理手順の詳細については図２９のフローチャートを用いて後述する。
　続いて予測動きベクトル候補補充部３２５及び４２５は予測動きベクトル候補リストmvpListLXを満たすまで、（０，０）等の、所定の値の予測動きベクトル候補を追加する（図２０のＳ３０５）。
　＜通常マージモード導出部（通常マージ）＞
　図１８の通常マージモード導出部３０２は、空間マージ候補導出部３４１、時間マージ候補導出部３４２、平均マージ候補導出部３４４、履歴マージ候補導出部３４５、マージ候補補充部３４６、マージ候補選択部３４７を含む。
　図２４の通常マージモード導出部４０２は、空間マージ候補導出部４４１、時間マージ候補導出部４４２、平均マージ候補導出部４４４、履歴マージ候補導出部４４５、マージ候補補充部４４６、マージ候補選択部４４７を含む。
　図２１は本発明の実施の形態に係る画像符号化装置の通常マージモード導出部３０２及び画像復号装置の通常マージモード導出部４０２とで共通する機能を有する通常マージモード導出処理の手順を説明するフローチャートである。
　以下、諸過程を順を追って説明する。なお、以下の説明においては特に断りのない限りスライスタイプslice_typeがＢスライスの場合について説明するが、Ｐスライスの場合にも適用できる。ただし、スライスタイプslice_typeがＰスライスの場合、インター予測モードとしてＬ０予測（Pred_L0）だけがあり、Ｌ１予測（Pred_L1）、双予測（Pred_BI）がないので、Ｌ１に纏わる処理を省略することができる。
　通常マージモード導出部３０２及び通常マージモード導出部４０２では、マージ候補リストmergeCandListを備えている。マージ候補リストmergeCandListはリスト構造を成し、マージ候補リスト内部の所在を示すマージインデックスと、インデックスに対応するマージ候補を要素として格納する記憶領域が設けられている。マージインデックスの数字は０から開始され、マージ候補リストmergeCandListの記憶領域に、マージ候補が格納される。以降の処理では、マージ候補リストmergeCandListに登録されたマージインデックスｉのマージ候補は、mergeCandList[i]で表すこととする。本実施の形態においては、マージ候補リストmergeCandListは少なくとも６個のマージ候補（インター予測情報）を登録することができるものとする。さらに、マージ候補リストmergeCandListに登録されているマージ候補数を示す変数numCurrMergeCandに０を設定する。
　空間マージ候補導出部３４１及び空間マージ候補導出部４４１では、画像符号化装置の符号化情報格納メモリ１１１または画像復号装置の符号化情報格納メモリ２０５に格納されている符号化情報から、処理対象ブロックの左側と上側に隣接するブロックからの空間マージ候補Ａ，Ｂを導出して、導出された空間マージ候補をマージ候補リストmergeCandListに登録する（図２１のステップＳ４０１）。ここで、空間マージ候補Ａ，Ｂ，または時間マージ候補Ｃｏｌのいずれかを示すＮを定義する。ブロックＮのインター予測情報が空間マージ候補として利用できるか否かを示すフラグavailableFlagN、空間マージ候補ＮのＬ０の参照インデックスrefIdxL0N及びＬ１の参照インデックスrefIdxL1N、Ｌ０予測が行われるか否かを示すＬ０予測フラグpredFlagL0NおよびＬ１予測が行われるか否かを示すＬ１予測フラグpredFlagL1N、Ｌ０の動きベクトルmvL0N、Ｌ１の動きベクトルmvL1Nを導出する。ただし、本実施の形態においては処理対象となる符号化ブロックに含まれるブロックのインター予測情報を参照せずに、マージ候補を導出するので、処理対象の符号化ブロックに含まれるブロックのインター予測情報を用いる空間マージ候補は導出しない。
　続いて、時間マージ候補導出部３４２及び時間マージ候補導出部４４２では、異なる時間のピクチャからの時間マージ候補を導出して、導出された時間マージ候補をマージ候補リストmergeCandListに登録する（図２１のステップＳ４０２）。時間マージ候補が利用できるか否かを示すフラグavailableFlagCol、時間マージ候補のＬ０予測が行われるか否かを示すＬ０予測フラグpredFlagL0ColおよびＬ１予測が行われるか否かを示すＬ１予測フラグpredFlagL1Col、及びＬ０の動きベクトルmvL0Col、Ｌ１の動きベクトルmvL1Colを導出する。
　なお、シーケンス（ＳＰＳ）、ピクチャ（ＰＰＳ）、またはスライスの単位で時間マージ候補導出部３４２及び時間マージ候補導出部４４２の処理を省略することができるものとする。
　続いて、履歴マージ候補導出部３４５及び履歴マージ候補導出部４４５では、履歴予測動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補をマージ候補リストmergeCandListに登録する（図２１のステップＳ４０３）。
　なお、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが、最大マージ候補数MaxNumMergeCandより小さい場合、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが最大マージ候補数MaxNumMergeCandを上限として履歴マージ候補は導出されて、マージ候補リストmergeCandListに登録される。
　続いて、平均マージ候補導出部３４４及び平均マージ候補導出部４４４では、マージ候補リストmergeCandListから平均マージ候補を導出して、導出された平均マージ候補をマージ候補リストmergeCandListに追加する（図２１のステップＳ４０４）。
　なお、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが、最大マージ候補数MaxNumMergeCandより小さい場合、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが最大マージ候補数MaxNumMergeCandを上限として平均マージ候補は導出されて、マージ候補リストmergeCandListに登録される。
　ここで、平均マージ候補は、マージ候補リストmergeCandListに登録されている第１のマージ候補と第２のマージ候補の有する動きベクトルをＬ０予測及びＬ１予測毎に平均して得られる動きベクトルを有する新たなマージ候補である。
　続いて、マージ候補補充部３４６及びマージ候補補充部４４６では、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが、最大マージ候補数MaxNumMergeCandより小さい場合、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが最大マージ候補数MaxNumMergeCandを上限として追加マージ候補を導出して、マージ候補リストmergeCandListに登録する（図２１のステップＳ４０５）。最大マージ候補数MaxNumMergeCandを上限として、Ｐスライスでは、動きベクトルが（０，０）の値を持つ予測モードがＬ０予測（Pred_L0）のマージ候補を追加する。Ｂスライスでは、動きベクトルが（０，０）の値を持つ予測モードが双予測（Pred_BI）のマージ候補を追加する。マージ候補を追加する際の参照インデックスは、すでに追加した参照インデックスと異なる。
　続いて、マージ候補選択部３４７及びマージ候補選択部４４７では、マージ候補リストmergeCandList内に登録されているマージ候補からマージ候補を選択する。符号化側のマージ候補選択部３４７では、符号量とひずみ量を算出することによりマージ候補を選択し、選択されたマージ候補を示すマージインデックス、マージ候補のインター予測情報を、インター予測モード判定部３０５を介して動き補償予測部３０６に供給する。一方、復号側のマージ候補選択部４４７では、復号されたマージインデックスに基づいて、マージ候補を選択し、選択されたマージ候補を動き補償予測部４０６に供給する。
　通常マージモード導出部３０２及び通常マージモード導出部４０２では、ある符号化ブロックのサイズ（幅と高さの積）が３２未満の場合、その符号化ブロックの親ブロックにおいてマージ候補が導出される。そして、全ての子ブロックでは、親ブロックにおいて導出されたマージ候補を用いる。ただし、親ブロックのサイズが３２以上で、かつ画面内に収まっている場合に限る。
　＜履歴予測動きベクトル候補リストの更新＞
　次に、符号化側の符号化情報格納メモリ１１１及び復号側の符号化情報格納メモリ２０５に備える履歴予測動きベクトル候補リストHmvpCandListの初期化方法および更新方法について詳細に説明する。図２６は履歴予測動きベクトル候補リスト初期化・更新処理手順を説明するフローチャートである。
　本実施の形態では、履歴予測動きベクトル候補リストHmvpCandListの更新は、符号化情報格納メモリ１１１及び符号化情報格納メモリ２０５で実施されるものとする。インター予測部１０２及びインター予測部２０３の中に履歴予測動きベクトル候補リスト更新部を設置して履歴予測動きベクトル候補リストHmvpCandListの更新を実施させてもよい。 　
　スライスの先頭で履歴予測動きベクトル候補リストHmvpCandListの初期設定を行い、符号化側では予測方法決定部１０５で通常予測動きベクトルモードまたは通常マージモードが選択された場合に履歴予測動きベクトル候補リストHmvpCandListを更新し、復号側では、ビット列復号部２０１で復号された予測情報が通常予測動きベクトルモードまたは通常マージモードの場合に履歴予測動きベクトル候補リストHmvpCandListを更新する。
　通常予測動きベクトルモードまたは通常マージモードでインター予測を行う際に用いるインター予測情報を、インター予測情報候補hMvpCandとして履歴予測動きベクトル候補リストHmvpCandListに登録する。インター予測情報候補hMvpCandには、Ｌ０の参照インデックスrefIdxL0およびＬ１の参照インデックスrefIdxL1、Ｌ０予測が行われるか否かを示すＬ０予測フラグpredFlagL0およびＬ１予測が行われるか否かを示すＬ１予測フラグpredFlagL1、Ｌ０の動きベクトルmvL0、Ｌ１の動きベクトルmvL1が含まれる。
　符号化側の符号化情報格納メモリ１１１及び復号側の符号化情報格納メモリ２０５に備える履歴予測動きベクトル候補リストHmvpCandListに登録されている要素（すなわち、インター予測情報）の中に、インター予測情報候補hMvpCandと同じ値のインター予測情報が存在する場合は、履歴予測動きベクトル候補リストHmvpCandListからその要素を削除する。一方、インター予測情報候補hMvpCandと同じ値のインター予測情報が存在しない場合は、履歴予測動きベクトル候補リストHmvpCandListの先頭の要素を削除し、履歴予測動きベクトル候補リストHmvpCandListの最後に、インター予測情報候補hMvpCandを追加する。
　本発明の符号化側の符号化情報格納メモリ１１１及び復号側の符号化情報格納メモリ２０５に備える履歴予測動きベクトル候補リストHmvpCandListの要素の数は６とする。
　まず、スライス単位での履歴予測動きベクトル候補リストHmvpCandListの初期化を行う（図２６のステップＳ２１０１）。スライスの先頭で履歴予測動きベクトル候補リストHmvpCandListのすべての要素に履歴予測動きベクトル候補を追加し、履歴予測動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補の数NumHmvpCandの値を6に設定する。または、スライスの先頭で履歴予測動きベクトル候補リストHmvpCandListのすべての要素を空にし、履歴予測動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補の数（現在の候補数）NumHmvpCandの値は0に設定しても良い。
　なお、履歴予測動きベクトル候補リストHmvpCandListの初期化をスライス単位（スライスの最初の符号化ブロック）で実施するとしたが、ピクチャ単位、タイル単位やツリーブロック行単位で実施しても良い。
　図３８は履歴予測動きベクトル候補リストHmvpCandListの初期化によって追加される履歴予測動きベクトル候補の一例を示す表である。スライスタイプがBスライスで、参照ピクチャの枚数が4の場合の例を示す。履歴予測動きベクトルインデックスhMvpIdxが（履歴予測動きベクトル候補の数NumHmvpCand-1）から０までの、スライスタイプに応じて動きベクトルmvLXHmvp（Xは0または1）の値が(0, 0)のインター予測情報を、履歴予測動きベクトル候補として、履歴予測動きベクトル候補リストHmvpCandListに追加して、履歴予測動きベクトル候補リストを履歴候補で充填する。このとき、履歴予測動きベクトルインデックスhMvpIdxを（履歴予測動きベクトル候補の数NumHmvpCand-1）から開始し、参照インデックスrefIdxLX（Xは0または1）には０から（参照ピクチャの数numRefIdx-1）まで１ずつインクリメントした値を設定する。その後は、履歴予測動きベクトル候補同士の重複を許可して、参照インデックスrefIdxLXには０の値を設定する。履歴予測動きベクトル候補の数NumHmvpCandにすべての値を設定し、履歴予測動きベクトル候補の数NumHmvpCandの値を固定値にすることで、無効な履歴予測動きベクトル候補を無くす。このように、予測動きベクトル候補リストやマージ候補リストに追加される確率の高い履歴予測動きベクトルインデックスhMvpIdxが大きい値の候補から、一般的に選択率の高い参照インデックスrefIdxLXの小さい値を割り当てることで、符号化効率を向上させることができる。 　
　また、スライス単位で履歴予測動きベクトル候補リストを履歴予測動きベクトル候補で充填しておくことで、履歴予測動きベクトル候補の数を固定値として扱うことができるため、例えば履歴予測動きベクトル候補導出処理や履歴マージ候補導出処理を簡易化することができる。 　
　ここでは、動きベクトルの値を一般的に選択確率の高い(0, 0)としたが、所定の値であれば他の値でもよい。例えば、(4,4)、(0,32)、(-128,0)などの値にして差分動きベクトルの符号化効率を改善しても良いし、所定値を複数設定して差分動きベクトルの符号化効率を改善しても良い。 　
　また、履歴予測動きベクトルインデックスhMvpIdxを（履歴予測動きベクトル候補の数NumHmvpCand-1）から開始し、参照インデックスrefIdxLX（Xは0または1）には０から（参照ピクチャの数numRefIdx-1）まで１ずつインクリメントした値を設定するとしたが、履歴予測動きベクトルインデックスhMvpIdxを０から開始してもよい。 　
　図３９は履歴予測動きベクトル候補リストHmvpCandListの初期化によって追加される履歴予測動きベクトル候補の別の一例を示す表である。スライスタイプがBスライスで、参照ピクチャの枚数が2の場合の例を示す。この例では履歴予測動きベクトル候補リストHmvpCandListの各要素に履歴予測動きベクトル候補同士の重複がないように、参照インデックスrefIdxLX（Xは0または1）または動きベクトルmvLXHmvp（Xは0または1）の値のいずれかが異なるインター予測情報を履歴予測動きベクトル候補として追加して、履歴予測動きベクトル候補リストを充填する。このとき、履歴予測動きベクトルインデックスhMvpIdxを（履歴予測動きベクトル候補の数NumHmvpCand-1）から開始し、参照インデックスrefIdxLX（Xは0または1）には０から（参照ピクチャの数numRefIdx-1）まで１ずつインクリメントした値を設定する。その後は、参照インデックスrefIdxLXには０で異なる値の動きベクトルmvLXHmvpを履歴予測動きベクトル候補として追加する。履歴予測動きベクトル候補の数NumHmvpCandにすべての値を設定し、履歴予測動きベクトル候補の数NumHmvpCandの値を固定値にすることで、無効な履歴予測動きベクトル候補を無くす。 　
　このように、スライス単位で履歴予測動きベクトル候補リストを重複しない履歴予測動きベクトル候補で充填しておくことで、さらに、符号化ブロック単位で実施する後述の通常マージモード導出部３０２における履歴マージ候補導出部３４５より後のマージ候補補充部３４６の処理を省略することができ、処理量を削減することができる。 　
　ここでは、動きベクトルmvLXHmvpの各成分の絶対値を0または1としたが、履歴予測動きベクトル候補同士の重複が生じなければ、動きベクトルmvLXHmvpの各成分の絶対値を1より大きくしてもよい。 　
　また、履歴予測動きベクトルインデックスhmvpIdxを（履歴予測動きベクトル候補の数NumHmvpCand-1）から開始し、参照インデックスrefIdxLX（Xは0または1）には０から（参照ピクチャの数numRefIdx-1）まで１ずつインクリメントした値を設定するとしたが、履歴予測動きベクトルインデックスhMvpIdxを０から開始してもよい。 　
　図４０は履歴予測動きベクトル候補リストHmvpCandListの初期化によって追加される履歴予測動きベクトル候補の別の一例を示す表である。 　
　スライスタイプがBスライスで、参照ピクチャの枚数が１の場合の例を示す。この例では履歴予測動きベクトル候補リストHmvpCandListの各要素に履歴予測動きベクトル候補同士の重複がないように、参照インデックスrefIdxLXが０で、動きベクトルmvLXHmvpの値が異なるインター予測情報を履歴予測動きベクトル候補として追加して、履歴予測動きベクトル候補リストを充填する。このとき、履歴予測動きベクトルインデックスhMvpIdxを（履歴予測動きベクトル候補の数NumHmvpCand-1）から開始し、参照インデックスrefIdxLX（Xは0または1）は０で動きベクトルmvLXHmvpの値が異なるインター予測情報を設定する。履歴予測動きベクトル候補の数NumHmvpCandにすべての値を設定し、履歴予測動きベクトル候補の数NumHmvpCandの値を固定値にすることで、無効な履歴予測動きベクトル候補を無くす。 　
　このように、参照インデックスrefIdxLXを０とすることで、さらに、参照ピクチャの数を考慮することなく初期化することができるため処理を簡易化することができる。 　
　ここでは、動きベクトルmvLXHmvpの各成分の絶対値を０、１または2の累乗としたが、参照インデックスが０で履歴予測動きベクトル候補同士の重複が生じなければ、動きベクトルmvLXHmvpの各成分の絶対値を3,4など2以外の値の累乗としてもよいし、他の任意の値にしてもよい。 　
　また、履歴予測動きベクトルインデックスhMvpIdxを（履歴予測動きベクトル候補の数NumHmvpCand-1）から開始し、参照インデックスrefIdxLX（Xは0または1）は０で動きベクトルmvLXHmvpの値が異なるインター予測情報を設定するとしたが、履歴予測動きベクトルインデックスhMvpIdxを０から開始してもよい。 　
　続いて、スライス内の符号化ブロック毎に以下の履歴予測動きベクトル候補リストHmvpCandListの更新処理を繰り返し行なう（図２６のステップＳ２１０２～Ｓ２１１１）。
　まず、符号化ブロック単位での初期設定を行う。同一候補が存在するか否かを示すフラグidenticalCandExistにFALSE（偽）の値を設定し、削除対象の候補を示す削除対象インデックスremoveIdxに０を設定する（図２６のステップＳ２１０３）。
　登録対象のインター予測情報候補hMvpCandが存在するか否かを判定する（図２６のステップＳ２１０４）。符号化側の予測方法決定部１０５で通常予測動きベクトルモードまたは通常マージモードと判定された場合、または復号側のビット列復号部２０１で通常予測動きベクトルモードまたは通常マージモードとして復号された場合、そのインター予測情報を登録対象のインター予測情報候補hMvpCandとする。符号化側の予測方法決定部１０５でイントラ予測モード、サブブロック予測動きベクトルモードまたはサブブロックマージモードと判定された場合、または復号側のビット列復号部２０１でイントラ予測モード、サブブロック予測動きベクトルモードまたはサブブロックマージモードとして復号された場合、履歴予測動きベクトル候補リストHmvpCandListの更新処理を行わず、登録対象のインター予測情報候補hMvpCandは存在しない。登録対象のインター予測情報候補hMvpCandが存在しない場合はステップＳ２１０５～Ｓ２１０６をスキップする（図２６のステップＳ２１０４：ＮＯ）。登録対象のインター予測情報候補hMvpCandが存在する場合はステップＳ２１０５以下の処理を行う（図２６のステップＳ２１０４：ＹＥＳ）。
　続いて、履歴予測動きベクトル候補リストHmvpCandListの各要素の中に登録対象のインター予測情報候補hMvpCandと同じ値の要素（インター予測情報）、すなわち同一の要素が存在するか否かを判定する（図２６のステップＳ２１０５）。図２７はこの同一要素確認処理手順のフローチャートである。履歴予測動きベクトル候補の数NumHmvpCandの値が０の場合（図２７のステップＳ２１２１：ＮＯ）、履歴予測動きベクトル候補リストHmvpCandListは空で、同一候補は存在しないので図２７のステップＳ２１２２～Ｓ２１２５をスキップし、本同一要素確認処理手順を終了する。履歴予測動きベクトル候補の数NumHmvpCandの値が0より大きい場合（図２７のステップＳ２１２１のＹＥＳ）、履歴予測動きベクトルインデックスhMvpIdxが0からNumHmvpCand-1まで、ステップＳ２１２３の処理を繰り返す（図２７のステップＳ２１２２～Ｓ２１２５）。まず、履歴予測動きベクトル候補リストの０から数えてhMvpIdx番目の要素HmvpCandList[hMvpIdx]がインター予測情報候補hMvpCandと同一か否かを比較する（図２７のステップＳ２１２３）。同一の場合（図２７のステップＳ２１２３：ＹＥＳ）、同一候補が存在するか否かを示すフラグidenticalCandExistにTRUE（真）の値を設定し、削除対象の要素の位置を示す削除対象インデックスremoveIdxに現在の履歴予測動きベクトルインデックスhMvpIdxの値を設定し、本同一要素確認処理を終了する。同一でない場合（図２７のステップＳ２１２３：ＮＯ）、hMvpIdxを1インクリメントし、履歴予測動きベクトルインデックスhMvpIdxがNumHmvpCand-1以下であれば、ステップＳ２１２３以降の処理を行う。
　再び図２６のフローチャートに戻り、履歴予測動きベクトル候補リストHmvpCandListの要素のシフト及び追加処理を行う（図２６のステップＳ２１０６）。図２８は図２６のステップＳ２１０６の履歴予測動きベクトル候補リストHmvpCandListの要素シフト／追加処理手順のフローチャートである。まず、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除いてから新たな要素を追加するか、要素を除かずに新たな要素追加するかを判定する。具体的には同一候補が存在するか否かを示すフラグidenticalCandExistにTRUE（真）またはNumHmvpCandが6か否かを比較する（図２８のステップＳ２１４１）。同一候補が存在するか否かを示すフラグidenticalCandExistにTRUE（真）または現在の候補数NumHmvpCandが6のいずれかの条件を満たす場合（図２８のステップＳ２１４１：ＹＥＳ）、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除いてから新たな要素を追加する。インデックスiの初期値をremoveIdx + 1の値に設定する。この初期値からNumHmvpCandまで、ステップＳ２１４３の要素シフト処理を繰り返す。（図２８のステップＳ２１４２～Ｓ２１４４）。HmvpCandList[ i -  1 ]にHmvpCandList[ i ]の要素をコピーすることで要素を前方にシフトし（図２８のステップＳ２１４３）、iを１インクリメントする（図２８のステップＳ２１４２～Ｓ２１４４）。続いて、履歴予測動きベクトル候補リストの最後に相当する０から数えて(NumHmvpCand-1)番目HmvpCandList[NumHmvpCand-1]にインター予測情報候補hMvpCandを追加し（図２８のステップＳ２１４５）、本履歴予測動きベクトル候補リストHmvpCandListの要素シフト・追加処理を終了する。一方、同一候補が存在するか否かを示すフラグidenticalCandExistにTRUE（真）およびNumHmvpCandが6のいずれの条件も満たさない場合（図２８のステップＳ２１４１：ＮＯ）、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除かずに、履歴予測動きベクトル候補リストの最後にインター予測情報候補hMvpCandを追加する（図２８のステップＳ２１４６）。ここで、履歴予測動きベクトル候補リストの最後とは、０から数えてNumHmvpCand番目のHmvpCandList[NumHmvpCand]である。また、NumHmvpCandを１インクリメントして、本履歴予測動きベクトル候補リストHmvpCandListの要素シフトおよび追加処理を終了する。
　図３１は履歴予測動きベクトル候補リストの更新処理の一例を説明する図である。６つの要素（インター予測情報）を登録済みの履歴予測動きベクトル候補リストHmvpCandListに新たな要素を追加する場合、履歴予測動きベクトル候補リストHmvpCandListの前方の要素から順に新たなインター予測情報と比較して（図３１Ａ）、新たな要素が履歴予測動きベクトル候補リストHmvpCandListの先頭から３番目の要素HMVP2と同じ値であれば、履歴予測動きベクトル候補リストHmvpCandListから要素HMVP2を削除して後方の要素HMVP3～HMVP5を前方に１つずつシフト（コピー）し、履歴予測動きベクトル候補リストHmvpCandListの最後に新たな要素を追加して（図３１Ｂ）、履歴予測動きベクトル候補リストHmvpCandListの更新を完了する（図３１Ｃ）。
　＜履歴予測動きベクトル候補導出処理＞
　次に、符号化側の通常予測動きベクトルモード導出部３０１の履歴予測動きベクトル候補導出部３２３、復号側の通常予測動きベクトルモード導出部４０１の履歴予測動きベクトル候補導出部４２３で共通の処理である図２０のステップＳ３０４の処理手順である履歴予測動きベクトル候補リストHmvpCandListからの履歴予測動きベクトル候補の導出方法について詳細に説明する。図２９は履歴予測動きベクトル候補導出処理手順を説明するフローチャートである。
　現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数（ここでは２とする）以上または履歴予測動きベクトル候補の数がNumHmvpCandの値が0の場合（図２９のステップＳ２２０１のＮＯ）、図２９のステップＳ２２０２からＳ２２０９の処理を省略し、履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２より小さい場合、かつ履歴予測動きベクトル候補の数NumHmvpCandの値が０より大きい場合（図２９のステップＳ２２０１のＹＥＳ）、図２９のステップＳ２２０２からＳ２２０９の処理を行う。
　続いて、インデックスｉが１から、４と履歴予測動きベクトル候補の数numCheckedHMVPCandのいずれか小さい値まで、図２９のステップＳ２２０３からＳ２２０８の処理を繰り返す（図２９のステップＳ２２０２～Ｓ２２０９）。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２以上の場合（図２９のステップＳ２２０３：ＮＯ）、図２９のステップＳ２２０４からＳ２２０９の処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２より小さい場合（図２９のステップＳ２２０３：ＹＥＳ）、図２９のステップＳ２２０４以降の処理を行う。
　続いて、ステップＳ２２０５からＳ２２０７までの処理をＹが０と１（Ｌ０とＬ１）についてそれぞれ行う（図２９のステップＳ２２０４～Ｓ２２０８）。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数数である２以上の場合（図２９のステップＳ２２０５：ＮＯ）、図２９のステップＳ２２０６からＳ２２０９の処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２より小さい場合（図２９のステップＳ２２０５：ＹＥＳ）、図２９のステップＳ２２０６以降の処理を行う。
　続いて、履歴予測動きベクトル候補リストHmvpCandListの中に、符号化／復号対象動きベクトルの参照インデックスrefIdxLXと同じ参照インデックスの要素であり、予測動きベクトルリストmvpListLXのどの要素とも異なる要素の場合（図２９のステップＳ２２０６：ＹＥＳ）、予測動きベクトル候補リストの０から数えてnumCurrMvpCand番目の要素mvpListLX[numCurrMvpCand]に履歴予測動きベクトル候補HmvpCandList[NumHmvpCand - i]のLYの動きベクトルを追加し（図２９のステップＳ２２０７）、現在の予測動きベクトル候補の数numCurrMvpCandを１インクリメントする。履歴予測動きベクトル候補リストHmvpCandListの中に、符号化／復号対象動きベクトルの参照インデックスrefIdxLXと同じ参照インデックスの要素であり、予測動きベクトルリストmvpListLXのどの要素とも異なる要素がない場合（図２９のステップＳ２２０６：ＮＯ）、ステップＳ２２０７の追加処理をスキップする。
　以上の図２９のステップＳ２２０５からＳ２２０７の処理をＬ０とＬ１で双方ともに行う（図２９のステップＳ２２０４～Ｓ２２０８）。インデックスｉを１インクリメントし、インデックスｉが４と履歴予測動きベクトル候補の数NumHmvpCandのいずれか小さい値以下の場合、再びステップＳ２２０３以降の処理を行う（図２９のステップＳ２２０２～Ｓ２２０９）。
　＜履歴マージ候補導出処理＞
　次に、符号化側の通常マージモード導出部３０２の履歴マージ候補導出部３４５、復号側の通常マージモード導出部４０２の履歴マージ候補導出部４４５で共通の処理である図２１のステップＳ４０４の処理手順である履歴マージ候補リストHmvpCandListからの履歴マージ候補の導出方法について詳細に説明する。図３０は履歴マージ候補導出処理手順を説明するフローチャートである。
　まず、初期化処理を行う（図３０のステップＳ２３０１）。isPruned[i]の0から(numCurrMergeCand -1)番目のそれぞれの要素にFALSEの値を設定し、変数numOrigMergeCandに現在のマージ候補リストに登録されている要素の数numCurrMergeCandを設定する。
　続いて、インデックスhMvpIdxの初期値を1に設定し、この初期値からNumHmvpCandまで、図３０のステップＳ２３０３からステップＳ２３１０までの追加処理を繰り返す（図３０のステップＳ２３０２～Ｓ２３１１）。現在のマージ候補リストに登録されている要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下でなければ、マージ候補リストのすべての要素にマージ候補が追加されたので、本履歴マージ候補導出処理を終了する（図３０のステップＳ２３０３のＮＯ）。現在のマージ候補リストに登録されている要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下の場合、ステップＳ２３０４以降の処理を行う。sameMotionにFALSE（偽）の値を設定する（図３０のステップＳ２３０４）。続いて、インデックスiの初期値を0に設定し、この初期値からnumOrigMergeCand-1まで図３０のステップＳ２３０６、Ｓ２３０７の処理を行う（図３０のＳ２３０５～Ｓ２３０８）。履歴動きベクトル予測候補リストの０から数えて(NumHmvpCand - hMvpIdx)番目の要素HmvpCandList[NumHmvpCand- hMvpIdx]がマージ候補リストの０から数えてi番目の要素mergeCandList[i]と同じ値か否かを比較する（図３０のステップＳ２３０６）。
　マージ候補の同じ値とはマージ候補が持つすべての構成要素（インター予測モード、参照インデックス、動きベクトル）の値が同じ場合にマージ候補が同じ値とする。マージ候補が同じ値、かつisPruned[i]がFALSEの場合（図３０のステップＳ２３０６のＹＥＳ）、sameMotionおよびisPruned[i]共にTRUE（真）を設定する（図３０のステップＳ２３０７）。同じ値でない場合（図３０のステップＳ２３０６のＮＯ）、ステップＳ２３０７の処理をスキップする。図３０のステップＳ２３０５からステップＳ２３０８までの繰り返し処理が完了したらsameMotionがFALSE（偽）か否かを比較し（図３０のステップＳ２３０９）、sameMotionが FALSE（偽）の場合（図３０のステップＳ２３０９のＹＥＳ）、すなわち履歴予測動きベクトル候補リストの０から数えて(NumHmvpCand - hMvpIdx)番目の要素HmvpCandList[NumHmvpCand - hMvpIdx]はmergeCandListに存在しないので、マージ候補リストのnumCurrMergeCand番目のmergeCandList[numCurrMergeCand]に履歴予測動きベクトル候補リストの０から数えて(NumHmvpCand - hMvpIdx)番目の要素HmvpCandList[NumHmvpCand - hMvpIdx]を追加し、numCurrMergeCandを1インクリメントする（図３０のステップＳ２３１０）。インデックスhMvpIdxを１インクリメントし（図３０のステップＳ２３０２）、図３０のステップＳ２３０２～Ｓ２３１１の繰り返し処理を行う。
　履歴予測動きベクトル候補リストのすべての要素の確認が完了するか、マージ候補リストのすべての要素にマージ候補が追加されたら、本履歴マージ候補の導出処理を完了する。
　＜動き補償予測処理＞
　動き補償予測部３０６は、符号化において現在予測処理の対象となっているブロックの位置およびサイズを取得する。また、動き補償予測部３０６は、インター予測情報をインター予測モード判定部３０５から取得する。取得したインター予測情報から参照インデックスおよび動きベクトルを導出し、復号画像メモリ１０４内の参照インデックスで特定される参照ピクチャを、動きベクトルの分だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得した後に予測信号を生成する。
　インター予測におけるインター予測モードがL0予測やL1予測のような、単一の参照ピクチャからの予測の場合には、１つの参照ピクチャから取得した予測信号を動き補償予測信号とし、インター予測モードがBI予測のような、予測モードが２つの参照ピクチャからの予測の場合には、２つの参照ピクチャから取得した予測信号を重みづけ平均したものを動き補償予測信号とし、動き補償予測信号を予測方法決定部１０５に供給する。ここでは双予測の重みづけ平均の比率を１：１とするが、他の比率を用いて重みづけ平均を行っても良い。例えば、予測対象となっているピクチャと参照ピクチャとのピクチャ間隔が近いものほど重みづけの比率が大きくなるようにしてもよい。また、重みづけ比率の算出をピクチャ間隔の組み合わせと重みづけ比率との対応表を用いて行うようにしても良い。
　動き補償予測部４０６は、符号化側の動き補償予測部３０６と同様の機能をもつ。動き補償予測部４０６は、インター予測情報を、通常予測動きベクトルモード導出部４０１、通常マージモード導出部４０２、サブブロック予測動きベクトルモード導出部４０３、サブブロックマージモード導出部４０４から、スイッチ４０８を介して取得する。動き補償予測部４０６は、得られた動き補償予測信号を、復号画像信号重畳部２０７に供給する。
　＜インター予測モードについて＞
　単一の参照ピクチャからの予測を行う処理を単予測と定義し、単予測の場合はＬ０予測またはＬ１予測という、参照リストＬ０、Ｌ１に登録された２つの参照ピクチャのいずれか一方を利用した予測を行う。
　図３２は単予測であってＬ０の参照ピクチャ（ＲｅｆＬ０Ｐｉｃ）が処理対象ピクチャ（ＣｕｒＰｉｃ）より前の時刻にある場合を示している。図３３は単予測であってＬ０予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合を示している。同様に、図３２および図３３のＬ０予測の参照ピクチャをＬ１予測の参照ピクチャ（ＲｅｆＬ１Ｐｉｃ）に置き換えて単予測を行うこともできる。
　２つの参照ピクチャからの予測を行う処理を双予測と定義し、双予測の場合はＬ０予測とＬ１予測の双方を利用してＢＩ予測と表現する。図３４は双予測であってＬ０予測の参照ピクチャが処理対象ピクチャより前の時刻にあって、Ｌ１予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合を示している。図３５は双予測であってＬ０予測の参照ピクチャとＬ１予測の参照ピクチャが処理対象ピクチャより前の時刻にある場合を示している。図３６は双予測であってＬ０予測の参照ピクチャとＬ１予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合を示している。
　このように、Ｌ０／Ｌ１の予測種別と時間の関係は、Ｌ０が過去方向、Ｌ１が未来方向とは限定されずに用いることが可能である。また双予測の場合に、同一の参照ピクチャを用いてＬ０予測及びＬ１予測のそれぞれを行ってもよい。なお、動き補償予測を単予測で行うか双予測で行うかの判断は、例えばＬ０予測を利用するか否か及びＬ１予測を利用するか否かを示す情報（例えば、フラグ）に基づき判断される。
　＜参照インデックスについて＞
　本発明の実施の形態では、動き補償予測の精度向上のために、動き補償予測において複数の参照ピクチャの中から最適な参照ピクチャを選択することを可能とする。そのため、動き補償予測で利用した参照ピクチャを参照インデックスとして利用するとともに、参照インデックスを差分動きベクトルとともにビットストリーム中に符号化する。
　＜通常予測動きベクトルモードに基づく動き補償処理＞
　動き補償予測部３０６は、図１６の符号化側におけるインター予測部１０２でも示されるように、インター予測モード判定部３０５において、通常予測動きベクトルモード導出部３０１によるインター予測情報が選択された場合には、このインター予測情報をインター予測モード判定部３０５から取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、予測方法決定部１０５に供給される。
　同様に、動き補償予測部４０６は、図２２の復号側におけるインター予測部２０３でも示されるように、復号の過程でスイッチ４０８が通常予測動きベクトルモード導出部４０１に接続された場合には、通常予測動きベクトルモード導出部４０１によるインター予測情報を取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、復号画像信号重畳部２０７に供給される。
　＜通常マージモードに基づく動き補償処理＞
　動き補償予測部３０６は、図１６の符号化側におけるインター予測部１０２でも示されるように、インター予測モード判定部３０５において、通常マージモード導出部３０２によるインター予測情報が選択された場合には、このインター予測情報をインター予測モード判定部３０５から取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、予測方法決定部１０５に供給される。
　同様に、動き補償予測部４０６は、図２２の復号側におけるインター予測部２０３でも示されるように、復号の過程でスイッチ４０８が通常マージモード導出部４０２に接続された場合には、通常マージモード導出部４０２によるインター予測情報を取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、復号画像信号重畳部２０７に供給される。
　＜サブブロック予測動きベクトルモードに基づく動き補償処理＞
　動き補償予測部３０６は、図１６の符号化側におけるインター予測部１０２でも示されるように、インター予測モード判定部３０５において、サブブロック予測動きベクトルモード導出部３０３によるインター予測情報が選択された場合には、このインター予測情報をインター予測モード判定部３０５から取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、予測方法決定部１０５に供給される。
　同様に、動き補償予測部４０６は、図２２の復号側におけるインター予測部２０３でも示されるように、復号の過程でスイッチ４０８がサブブロック予測動きベクトルモード導出部４０３に接続された場合には、サブブロック予測動きベクトルモード導出部４０３によるインター予測情報を取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、復号画像信号重畳部２０７に供給される。
　＜サブブロックマージモードに基づく動き補償処理＞
　動き補償予測部３０６は、図１６の符号化側におけるインター予測部１０２でも示されるように、インター予測モード判定部３０５において、サブブロックマージモード導出部３０４によるインター予測情報が選択された場合には、このインター予測情報をインター予測モード判定部３０５から取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、予測方法決定部１０５に供給される。
　同様に、動き補償予測部４０６は、図２２の復号側におけるインター予測部２０３でも示されるように、復号の過程でスイッチ４０８がサブブロックマージモード導出部４０４に接続された場合には、サブブロックマージモード導出部４０４によるインター予測情報を取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、復号画像信号重畳部２０７に供給される。
　＜アフィン変換予測に基づく動き補償処理＞
　通常予測動きベクトルモード、および通常マージモードでは、以下のフラグに基づいてアフィンモデルによる動き補償が利用できる。以下のフラグは、符号化処理においてインター予測モード判定部３０５により決定されるインター予測の条件に基づいて以下のフラグに反映され、ビットストリーム中に符号化される。復号処理においては、ビットストリーム中の以下のフラグに基づいてアフィンモデルによる動き補償を行うか否かを特定する。
　sps_affine_enabled_flagは、インター予測において、アフィンモデルによる動き補償が利用できるか否かを表す。sps_affine_enabled_flagが０であれば、シーケンス単位でアフィンモデルによる動き補償ではないように抑制される。また、inter_affine_flag とcu_affine_type_flag は、符号化ビデオシーケンスのＣＵ（符号化ブロック）シンタックスにおいて伝送されない。sps_affine_enabled_flagが１であれば、符号化ビデオシーケンスにおいてアフィンモデルによる動き補償を利用できる。
　sps_affine_type_flagは、インター予測において、6パラメータアフィンモデルによる動き補償が利用できるか否かを表す。sps_affine_type_flagが０であれば、6パラメータアフィンモデルによる動き補償ではないように抑制される。また、cu_affine_type_flagは、符号化ビデオシーケンスのＣＵシンタックスにおいて伝送されない。sps_affine_type_flagが１であれば、符号化ビデオシーケンスにおいて6パラメータアフィンモデルによる動き補償を利用できる。sps_affine_type_flagが存在しない場合には、０であるものとする。
　PまたはBスライスを復号している場合、現在処理対象となっているＣＵにおいて、inter_affine_flagが１であれば、現在処理対象となっているＣＵの動き補償予測信号を生成するために、アフィンモデルによる動き補償が用いられる。inter_affine_flagが０であれば、現在処理対象となっているＣＵにアフィンモデルは用いられない。inter_affine_flagが存在しない場合には、０であるものとする。
　PまたはBスライスを復号している場合、現在処理対象となっているＣＵにおいて、cu_affine_type_flagが１であれば、現在処理対象となっているＣＵの動き補償予測信号を生成するために、6パラメータアフィンモデルによる動き補償が用いられる。cu_affine_type_flagが０であれば、現在処理対象となっているＣＵの動き補償予測信号を生成するために、4パラメータアフィンモデルによる動き補償が用いられる。
　アフィンモデルによる動き補償では、サブブロック単位で参照インデックスや動きベクトルが導出されることから、サブブロック単位で処理対象となっている参照インデックスや動きベクトルを用いて動き補償予測信号を生成する。
　4パラメータアフィンモデルは２つの制御点のそれぞれの動きベクトルの水平成分及び垂直成分の４つのパラメータからサブブロックの動きベクトルを導出し、サブブロック単位で動き補償を行うモードである。
（第２の実施の形態）
　第１の実施の形態では、通常予測動きベクトルモードと通常マージモードで履歴予測動きベクトル候補リストの要素（候補）を参照する順序は同じであった。一方、第２の実施の形態では、第１の実施の形態に対して、以下のような追加および変更を行う。履歴予測動きベクトル候補リストを利用する際の参照順を、第２の実施の形態の通常予測動きベクトルモードでは図４６で示されるように第１の実施の形態とは逆の順序で行い、第２の実施の形態の通常マージモードでは図４５で示されるように第１の実施の形態と同じ順序で行うようにする。すなわち、通常予測動きベクトルモードと通常マージモードとで履歴予測動きベクトル候補リストに含まれる候補を参照する順序を逆（逆順）にする。それにより、通常予測動きベクトルモードでは、履歴予測動きベクトル候補リスト内の要素が、古い要素から順に予測動きベクトル候補リストに追加され、通常マージモードでは、履歴予測動きベクトル候補リスト内の要素が、新しい要素から順に予測動きベクトル候補リストに追加されることになる。
　＜履歴予測動きベクトル候補リスト＞ 　ここでは、履歴予測動きベクトル候補リストの構成と動作について説明する。 　図４１で示すように、符号化対象ブロックにおいてインター予測により用いられたインター予測情報を、登録すべきインター予測情報候補hMvpCandとし、過去に利用したことのある履歴として、履歴予測動きベクトル候補リストHmvpCandListに登録する。図４１では、履歴予測動きベクトル候補リストは６つの要素を格納できるリスト構造となっており、先に格納された要素から順番に取り出される、先入先出のFIFO(First-In,First Out)方式を基本的な格納動作としている。
　ここでは一例としてHmvpCandListに格納できる最大の要素数を符号化側および復号側での取決めとして６つとして説明するが、特に限定されるものではなく、６つ以上であっても構わない。また、HmvpCandListに格納できる最大の要素数を５つ、もしくはそれ以下の要素数として構成しても良い。例えば、予測動きベクトル候補リストmvpListLXの最大要素数、最大マージ候補数、最大サブブロックマージ候補数などの、インター予測情報候補の最大要素数と同等の最大要素数にHmvpCandListを構成しても良い。また、各モードのインター予測情報候補の最大要素数に連動するように、HmvpCandListを構成しても良い。
　このHmvpCandListの最大要素数をビットストリームのシンタックス要素に含めることにより、符号化側から復号側へ伝達するように構成しても良い。
　図４１で示されるように、HmvpCandListは、リストの先頭である位置０からリストの末尾である位置５に、６つの要素を格納でき、位置０から順番に位置５まで要素を埋めていくことができる。この位置０から位置５までを履歴予測動きベクトルインデックスhMvpIdxとして管理する。例えば、位置０はhMVpIdx[0]、位置５はhMVpIdx[5]と表現できる。HmvpCandListの格納要素数をNumHmvpCandで管理し、０から最大要素数である６の範囲で格納要素の増減を管理する。
　HmvpCandListに最大要素数が格納されている状態で、新たに要素を追加する場合について詳細に説明する。図４２で示されるように、インター予測情報候補hMvpCandを新たに履歴として登録しようとする場合、先頭である位置０の要素を削除し、各要素の位置を１つずつ先頭方向にシフトさせる。シフトの結果、図４３のように格納要素数が１つ減ることにより、末尾の位置５に新たな要素を格納できるようになる。そこで、インター予測情報候補hMvpCandを末尾の位置５に格納することで、図４４のように、HmvpCandListに新たな要素が追加される。
　＜第２の実施の形態の通常予測動きベクトルモードでの履歴予測動きベクトル候補導出処理＞ 　ここでは、第２の実施の形態の通常予測動きベクトルモードでの履歴予測動きベクトル候補導出処理について説明する。
　図４７は、第２の実施の形態の通常予測動きベクトルモードにおいて、通常マージモードの参照順とは逆の順序で参照しながら履歴予測動きベクトル候補リストHmvpCandListを利用するように構成した場合の、履歴予測動きベクトル候補導出処理手順を説明するフローチャートである。
　現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数（ここでは２とする）以上または履歴予測動きベクトル候補の数NumHmvpCandの値が０の場合（図４７のステップＳ２６０１のＮＯ）、図４７のステップＳ２６０２からＳ２６０９の処理を省略し、履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２より小さい、かつ履歴予測動きベクトル候補の数NumHmvpCandの値が０より大きい場合（図４７のステップＳ２６０１のＹＥＳ）、図４７のステップＳ２６０２からＳ２６０９の処理を行う。
　続いて、インデックスｉが０から、４と履歴予測動きベクトル候補の数NumHmvpCandのいずれか小さい値から１を引いた値まで、図４７のステップＳ２６０３からＳ２６０８の処理を繰り返す（図４７のステップＳ２６０２～Ｓ２６０９）。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２以上の場合（図４７のステップＳ２６０３のＮＯ）、図４７のステップＳ２６０４からＳ２６０９の処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２より小さい場合（図４７のステップＳ２６０３のＹＥＳ）、図４７のステップＳ２６０４以降の処理を行う。
　続いて、ステップＳ２６０５からＳ２６０７までの処理をインデックスＹが０と１（Ｌ０とＬ１）についてそれぞれ行う（図４７のステップＳ２６０４～Ｓ２６０８）。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２以上の場合（図４７のステップＳ２６０５のＮＯ）、図４７のステップＳ２６０６からＳ２６０９の処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である２より小さい場合（図４７のステップＳ２６０５のＹＥＳ）、図４７のステップＳ２６０６以降の処理を行う。
　続いて、履歴予測動きベクトル候補リストHmvpCandListの中に、符号化／復号対象動きベクトルの参照インデックスrefIdxLXと同じ参照インデックスの要素であり、予測動きベクトル候補リストmvpListLXのどの要素とも異なる要素の場合（図４７のステップＳ２６０６のＹＥＳ）、予測動きベクトル候補リストの０から数えてnumCurrMvpCand番目の要素mvpListLX[numCurrMvpCand ]に履歴予測動きベクトル候補HmvpCandList[i]のＬＹの動きベクトルを追加し（図４７のステップＳ２６０７）、現在の予測動きベクトル候補の数numCurrMvpCandを１インクリメントする。履歴予測動きベクトル候補リストHmvpCandListの中に、符号化／復号対象動きベクトルの参照インデックスrefIdxLXと同じ参照インデックスの要素であり、予測動きベクトル候補リストmvpListLXのどの要素とも異なる要素がない場合（図４７のステップＳ２６０７のＮＯ）、ステップＳ２６０７の追加処理をスキップする。
　以上の図４７のステップＳ２６０５からＳ２６０７の処理をＬ０とＬ１で双方ともに行う（図４７のステップＳ２６０４～Ｓ２６０８）。
　インデックスｉを１インクリメントし（図４７のステップＳ２６０２、Ｓ２６０９）、インデックスｉが４と履歴予測動きベクトル候補の数NumHmvpCandのいずれか小さい値から１を引いた値以下の場合、再びステップＳ２６０３以降の処理を行う（図４７のステップＳ２６０２～Ｓ２６０９）。
　以上のように、通常予測動きベクトルモードでは、履歴予測動きベクトル候補リスト内で先に追加された要素（古い要素）から順に参照されて予測動きベクトル候補リストに追加される。
　＜変形例　その１＞
　本実施の形態のような履歴予測動きベクトル候補リストの参照順となることを示すような履歴参照フラグを導入し、第１の実施の形態の参照順と、本実施の形態の参照順とを切り替えられるように構成しても良い。この履歴参照フラグを、ビットストリームのシンタックス要素に含めて復号側に伝達し、復号側ではこの履歴参照フラグをシンタックス要素に持つビットストリームを取得し、復号できるようにしても良い。
＜変形例　その２＞
　本実施の形態では、通常予測動きベクトルモードでは図４６で示されるように履歴予測動きベクトル候補リストの要素０から要素５の順に１つずつ参照し、通常マージモードでは図４５で示されるように履歴予測動きベクトル候補リストの要素５から要素０の順に１つずつ参照したが、通常予測動きベクトルモードと通常マージモードとで履歴予測動きベクトル候補リストを参照する順序が異なっていればこれに限定されない。例えば、通常予測動きベクトルモードでは要素０から要素２を参照し、通常マージモードでは要素５から要素１を参照するように、通常予測動きベクトルモードと通常マージモードとで履歴予測動きベクトル候補リストを参照する数が異なっていてもよい。この場合、候補数の多い通常マージモードの参照数が多くなるようにすることが好ましい。また、通常マージモードでは要素４から要素０までを参照するように開始点を変更してもよい。
　以上のような第２の実施の形態とすることにより、履歴予測動きベクトル候補リストを利用する際の参照順を、通常予測動きベクトルモードとは異なる参照順とすることで、それぞれのモードごとに適した候補を採用できるようになる。特に、差分動きベクトルを符号化する通常予測動きベクトルモードが選択される場合には、符号化対象ブロックの周囲の状況とは異なる動きベクトルを必要とすることが多い。よって履歴予測動きベクトル候補リストを探索し、直近のものとは異なる比較的相関が低いと考えられる要素、つまり先に格納された古い要素から順番に候補として利用することで、通常予測動きベクトルモードに適した候補により符号化効率の向上に寄与できる。
　また、通常マージモードでは符号化対象ブロックの周囲の相関が高いほど符号化効率が向上するため、履歴予測動きベクトル候補リストを探索し、直近のものと比較的相関が高いと考えられる要素、つまり後に格納された新しい要素から順番に候補として利用することで、通常マージモードに適した候補により符号化効率の向上に寄与できる。
　以上に述べた全ての実施の形態は、複数を組み合わせても良い。
　以上に述べた全ての実施の形態において、画像符号化装置が出力するビットストリームは、実施の形態で用いられた符号化方法に応じて復号することができるように特定のデータフォーマットを有している。また、この画像符号化装置に対応する画像復号装置は、この特定のデータフォーマットのビットストリームを復号することができる。
　画像符号化装置と画像復号装置の間でビットストリームをやりとりするために、有線または無線のネットワークが用いられる場合、通信路の伝送形態に適したデータ形式にビットストリームを変換して伝送してもよい。その場合、画像符号化装置が出力するビットストリームを通信路の伝送形態に適したデータ形式の符号化データに変換してネットワークに送信する送信装置と、ネットワークから符号化データを受信してビットストリームに復元して画像復号装置に供給する受信装置とが設けられる。送信装置は、画像符号化装置が出力するビットストリームをバッファするメモリと、ビットストリームをパケット化するパケット処理部と、ネットワークを介してパケット化された符号化データを送信する送信部とを含む。受信装置は、ネットワークを介してパケット化された符号化データを受信する受信部と、受信された符号化データをバッファするメモリと、符号化データをパケット処理してビットストリームを生成し、画像復号装置に提供するパケット処理部とを含む。
　また、画像復号装置で復号された画像を表示する表示部を構成に追加することで、表示装置としても良い。その場合、表示部は、復号画像信号重畳部２０７により生成され、復号画像メモリ２０８に格納された復号画像信号を読み出して画面に表示する。
　また、撮像部を構成に追加し、撮像した画像を画像符号化装置に入力することで、撮像装置としても良い。その場合、撮像部は、撮像した画像信号をブロック分割部１０１に入力する。
　図３７に、本実施の形態の符号化復号装置のハードウェア構成の一例を示す。符号化復号装置は、本発明の実施の形態に係る画像符号化装置、および画像復号装置の構成を包含する。係る符号化復号装置９０００は、ＣＰＵ９００１、コーデックＩＣ９００２、Ｉ／Ｏインターフェース９００３、メモリ９００４、光学ディスクドライブ９００５、ネットワークインターフェース９００６、ビデオインターフェース９００９を有し、各部はバス９０１０により接続される。
　画像符号化部９００７と画像復号部９００８は、典型的にはコーデックＩＣ９００２として実装される。本発明の実施の形態に係る画像符号化装置の画像符号化処理は、画像符号化部９００７により実行され、本発明の実施の形態に係る画像復号装置における画像復号処理は、画像復号部９００８により実行される。Ｉ／Ｏインターフェース９００３は、例えばＵＳＢインターフェースにより実現され、外部のキーボード９１０４、マウス９１０５等と接続する。ＣＰＵ９００１は、Ｉ／Ｏインターフェース９００３を介して入力したユーザー操作に基づき、ユーザーの所望する動作を実行するように符号化復号装置９０００を制御する。キーボード９１０４、マウス９１０５等によるユーザーの操作としては、符号化、復号のどちらの機能を実行するかの選択、符号化品質の設定、ビットストリームの入出力先、画像の入出力先等がある。
　ユーザーがディスク記録媒体９１００に記録された画像を再生する操作を所望する場合、光学ディスクドライブ９００５は、挿入されたディスク記録媒体９１００からビットストリームを読出し、読み出したビットストリームを、バス９０１０を介してコーデックＩＣ９００２の画像復号部９００８に送る。画像復号部９００８は入力したビットストリームに対して本発明の実施の形態に係る画像復号装置における画像復号処理を実行し、復号画像を、ビデオインターフェース９００９を介して外部のモニタ９１０３へ送る。また、符号化復号装置９０００は、ネットワークインターフェース９００６を有し、ネットワーク９１０１を介して、外部の配信サーバ９１０６や、携帯端末９１０７と接続可能である。ユーザーがディスク記録媒体９１００に記録された画像に変えて、配信サーバ９１０６や携帯端末９１０７に記録された画像を再生することを所望する場合は、ネットワークインターフェース９００６は、入力されたディスク記録媒体９１００からビットストリームを読出すことに変えて、ネットワーク９１０１よりビットストリームを取得する。また、ユーザーがメモリ９００４に記録された画像を再生することを所望する場合は、メモリ９００４に記録されたビットストリームに対して、本発明の実施の形態に係る画像復号装置における画像復号処理を実行する。
　ユーザーが外部のカメラ９１０２で撮像した画像を符号化しメモリ９００４に記録する操作を所望する場合、ビデオインターフェース９００９は、カメラ９１０２から画像を入力し、バス９０１０を介し、コーデックＩＣ９００２の画像符号化部９００７に送る。画像符号化部９００７は、ビデオインターフェース９００９を介して入力した画像に対して本発明の実施の形態に係る画像符号化装置における画像符号化処理を実行し、ビットストリームを作成する。そしてビットストリームを、バス９０１０を介し、メモリ９００４へ送る。ユーザーがメモリ９００４に変えて、ディスク記録媒体９１００にビットストリームを記録することを所望する場合は、光学ディスクドライブ９００５は、挿入されたディスク記録媒体９１００に対しビットストリームの書き出しを行う。
　画像符号化装置を有し画像復号装置を有さないハードウェア構成や、画像復号装置を有し画像符号化装置を有さないハードウェア構成を実現することも可能である。そのようなハードウェア構成は、例えばコーデックＩＣ９００２が、画像符号化部９００７、または画像復号部９００８にそれぞれ置き換わることにより実現される。
　以上の符号化及び復号に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置として実現しても良いのは勿論のこと、ＲＯＭ（リード・オンリー・メモリ）やフラッシュメモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによって実現しても良い。そのファームウェアプログラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して提供しても良いし、有線あるいは無線のネットワークを通してサーバから提供しても良いし、地上波あるいは衛星ディジタル放送のデータ放送として提供しても良い。
　以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
　１００　画像符号化装置、　１０１　ブロック分割部、　１０２　インター予測部、　１０３　イントラ予測部、１０４　復号画像メモリ、　１０５　予測方法決定部、　１０６　残差生成部、　１０７　直交変換・量子化部、　１０８　ビット列符号化部、　１０９　逆量子化・逆直交変換部、　１１０　復号画像信号重畳部、　１１１　符号化情報格納メモリ、　２００　画像復号装置、　２０１　ビット列復号部、　２０２　ブロック分割部、　２０３　インター予測部　２０４　イントラ予測部、　２０５　符号化情報格納メモリ　２０６　逆量子化・逆直交変換部、　２０７　復号画像信号重畳部、　２０８　復号画像メモリ。 

Claims (10)

  1. 　動画像の各ピクチャを分割したブロック単位でインター予測情報によるインター予測を用いて前記動画像を符号化する画像符号化装置であって、
    　インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納部と、
    　前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出部と、
    　前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出部とを備え、
    　前記履歴予測動きベクトル候補導出部及び履歴マージ候補導出部は、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とすることを特徴とする画像符号化装置。
  2. 　前記異なる順序とは、逆順であることを特徴とする請求項１に記載の画像符号化装置。
  3. 　前記履歴マージ候補導出部は、前記履歴予測動きベクトル候補リストに含まれる候補を新しい順に参照する請求項１または２に記載の画像符号化装置。
  4. 　動画像の各ピクチャを分割したブロック単位でインター予測情報によるインター予測を用いて前記動画像を符号化する画像符号化方法であって、
    　インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、
    　前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、
    　前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとを備え、
    　前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とすることを特徴とする画像符号化方法。
  5. 　動画像の各ピクチャを分割したブロック単位でインター予測情報によるインター予測を用いて前記動画像を符号化する画像符号化プログラムであって、
    　インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、
    　前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、
    　前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとをコンピュータに実行させ、
    　前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とすることを特徴とする画像符号化プログラム。
  6. 　動画像の各ピクチャを分割したブロック単位でインター予測情報によるインター予測を用いて前記動画像が符号化されたビット列を復号する画像復号装置であって、
    　インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納部と、
    　前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出部と、
    　前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出部とを備え、
    　前記履歴予測動きベクトル候補導出部及び履歴マージ候補導出部は、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とすることを特徴とする画像復号装置。
  7. 　前記異なる順序とは、逆順であることを特徴とする請求項１に記載の画像復号装置。
  8. 　前記履歴マージ候補導出部は、前記履歴予測動きベクトル候補リストに含まれる候補を新しい順に参照する請求項１または２に記載の画像復号装置。
  9. 　動画像の各ピクチャを分割したブロック単位でインター予測情報によるインター予測を用いて前記動画像が符号化されたビット列を復号する画像復号方法であって、
    　インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、
    　前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、
    　前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとを備え、
    　前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とすることを特徴とする画像復号方法。
  10. 　動画像の各ピクチャを分割したブロック単位でインター予測情報によるインター予測を用いて前記動画像が符号化されたビット列を復号する画像復号プログラムであって、
    　インター予測で用いた前記インター予測情報を履歴予測動きベクトル候補リストに追加する符号化情報格納ステップと、
    　前記履歴予測動きベクトル候補リストから履歴予測動きベクトル候補を導出する履歴予測動きベクトル候補導出ステップと、
    　前記履歴予測動きベクトル候補リストから履歴マージ候補を導出する履歴マージ候補導出ステップとをコンピュータに実行させ、
    　前記履歴予測動きベクトル候補導出ステップ及び履歴マージ候補導出ステップは、前記履歴予測動きベクトル候補リストに含まれる候補を互いに異なる順序で参照して履歴予測動きベクトル候補、または履歴マージ候補とすることを特徴とする画像復号プログラム。
PCT/JP2019/048423 2018-12-28 2019-12-11 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム WO2020137539A1 (ja)

Priority Applications (15)

Application Number Priority Date Filing Date Title
CN202310356926.3A CN116320479A (zh) 2018-12-28 2019-12-11 图像编码装置和方法、图像解码装置和方法
MX2021007754A MX2021007754A (es) 2018-12-28 2019-12-11 Dispositivo de codificacion de imagenes, metodo de codificacion de imagenes, dispositivo de decodificacion de imagenes y metodo de decodificacion de imagenes.
CN201980044863.XA CN112470477B (zh) 2018-12-28 2019-12-11 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
RU2021118226A RU2765206C1 (ru) 2018-12-28 2019-12-11 Устройство кодирования кадров, способ кодирования кадров, устройство декодирования кадров и способ декодирования кадров
EP19904357.1A EP3905689A4 (en) 2018-12-28 2019-12-11 IMAGE CODING DEVICE, IMAGE CODING METHOD, IMAGE CODING PROGRAM, IMAGE DECODING DEVICE, IMAGE DECODING METHOD AND IMAGE DECODING PROGRAM
KR1020237012035A KR102719664B1 (ko) 2018-12-28 2019-12-11 화상 부호화 장치, 화상 부호화 방법, 화상 복호 장치, 화상 복호 방법 및 비트 스트림
US17/269,931 US11503277B2 (en) 2018-12-28 2019-12-11 Picture coding device, picture coding method, and picture coding program, picture decoding device, picture decoding method, and picture decoding program
CN202310356903.2A CN116233465A (zh) 2018-12-28 2019-12-11 图像编码装置和方法、图像解码装置和方法
KR1020207037257A KR102521264B1 (ko) 2018-12-28 2019-12-11 화상 부호화 장치, 화상 부호화 방법, 화상 부호화 프로그램, 화상 복호 장치, 화상 복호 방법 및 화상 복호 프로그램
CN202110121801.3A CN112929674B (zh) 2018-12-28 2019-12-11 图像编码装置和方法、图像解码装置和方法
CN202310356799.7A CN116320478A (zh) 2018-12-28 2019-12-11 图像编码装置和方法、图像解码装置和方法
BR112021012485-3A BR112021012485B1 (pt) 2018-12-28 2019-12-11 Dispositivo de codificação de imagem, método de codificação de imagem, dispositivo de decodificação de imagem e método de decodificação de imagem
US17/962,429 US11785211B2 (en) 2018-12-28 2022-10-07 Picture coding device, picture coding method, and picture coding program, picture decoding device, picture decoding method, and picture decoding program
US18/206,894 US20230319264A1 (en) 2018-12-28 2023-06-07 Picture coding device, picture coding method, and picture coding program, picture decoding device, picture decoding method, and picture decoding program
US18/206,771 US11979562B2 (en) 2018-12-28 2023-06-07 Picture coding device, picture coding method, and picture coding program, picture decoding device, picture decoding method, and picture decoding program

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2018-247412 2018-12-28
JP2018247412 2018-12-28
JP2019082765 2019-04-24
JP2019-082765 2019-04-24

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US17/269,931 A-371-Of-International US11503277B2 (en) 2018-12-28 2019-12-11 Picture coding device, picture coding method, and picture coding program, picture decoding device, picture decoding method, and picture decoding program
US17/962,429 Continuation US11785211B2 (en) 2018-12-28 2022-10-07 Picture coding device, picture coding method, and picture coding program, picture decoding device, picture decoding method, and picture decoding program

Publications (1)

Publication Number Publication Date
WO2020137539A1 true WO2020137539A1 (ja) 2020-07-02

Family

ID=71127112

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/048423 WO2020137539A1 (ja) 2018-12-28 2019-12-11 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム

Country Status (10)

Country Link
US (4) US11503277B2 (ja)
EP (1) EP3905689A4 (ja)
JP (5) JP6911912B2 (ja)
KR (1) KR102521264B1 (ja)
CN (5) CN116233465A (ja)
BR (1) BR112021012485B1 (ja)
MX (1) MX2021007754A (ja)
RU (1) RU2765206C1 (ja)
TW (4) TWI782887B (ja)
WO (1) WO2020137539A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI782887B (zh) * 2018-12-28 2022-11-01 日商Ｊｖｃ建伍股份有限公司 影像編碼裝置、影像編碼方法、影像編碼程式、影像解碼裝置、影像解碼方法及影像解碼程式
TWI800874B (zh) * 2021-07-21 2023-05-01 國立臺灣科技大學 高適應性影像編碼方法與影像辨識方法
TWI822482B (zh) * 2022-11-23 2023-11-11 大陸商北京集創北方科技股份有限公司 任意倍率圖像放大模塊、顯示驅動晶片、顯示裝置以及資訊處理裝置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09172644A (ja) 1995-10-18 1997-06-30 Sharp Corp アフィン変換による動き補償フレーム間予測方式を用いた動画像符号化・復号化装置

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8514933B2 (en) 2005-03-01 2013-08-20 Qualcomm Incorporated Adaptive frame skipping techniques for rate controlled video encoding
US8543796B2 (en) * 2008-11-05 2013-09-24 Intel Corporation Optimizing performance of instructions based on sequence detection or information associated with the instructions
US9485518B2 (en) * 2011-05-27 2016-11-01 Sun Patent Trust Decoding method and apparatus with candidate motion vectors
HUE066386T2 (hu) * 2011-05-31 2024-07-28 Jvckenwood Corp Mozgókép-kódoló eszköz, mozgókép-kódoló eljárás és mozgókép-kódoló program, valamint mozgókép-dekódoló eszköz, mozgókép-dekódoló eljárás és mozgókép-dekódoló program
GB2493755B (en) * 2011-08-17 2016-10-19 Canon Kk Method and device for encoding a sequence of images and method and device for decoding a sequence of images
WO2013057877A1 (ja) * 2011-10-19 2013-04-25 パナソニック株式会社 画像符号化方法、画像符号化装置、画像復号方法、および、画像復号装置
JP5768662B2 (ja) * 2011-10-31 2015-08-26 富士通株式会社 動画像復号装置、動画像符号化装置、動画像復号方法、動画像符号化方法、動画像復号プログラム及び動画像符号化プログラム
KR20130050403A (ko) 2011-11-07 2013-05-16 오수미 인터 모드에서의 복원 블록 생성 방법
KR20130050405A (ko) * 2011-11-07 2013-05-16 오수미 인터 모드에서의 시간 후보자 결정방법
WO2013077659A1 (ko) * 2011-11-24 2013-05-30 에스케이텔레콤 주식회사 모션 벡터의 예측 부호화/복호화 방법 및 장치
CN102883163B (zh) * 2012-10-08 2014-05-28 华为技术有限公司 用于运动矢量预测的运动矢量列表建立的方法、装置
JP5776713B2 (ja) * 2013-03-06 2015-09-09 株式会社Ｊｖｃケンウッド 画像復号装置、画像復号方法、画像復号プログラム、受信装置、受信方法、及び受信プログラム
CN108989815B9 (zh) * 2014-03-19 2021-06-04 株式会社Kt 针对多视图视频信号生成合并候选列表的方法及解码装置
US9854237B2 (en) * 2014-10-14 2017-12-26 Qualcomm Incorporated AMVP and merge candidate list derivation for intra BC and inter prediction unification
JP2017069862A (ja) * 2015-10-01 2017-04-06 富士通株式会社 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
KR20180057566A (ko) 2016-11-22 2018-05-30 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
US10602180B2 (en) * 2017-06-13 2020-03-24 Qualcomm Incorporated Motion vector prediction
CN108228428B (zh) * 2018-02-05 2021-09-21 百度在线网络技术（北京）有限公司 用于输出信息的方法和装置
US10924731B2 (en) * 2018-08-28 2021-02-16 Tencent America LLC Complexity constraints on merge candidates list construction
US11070796B2 (en) * 2018-09-28 2021-07-20 Qualcomm Incorporated Ultimate motion vector expression based pruning for video coding
US11051034B2 (en) * 2018-10-08 2021-06-29 Qualcomm Incorporated History-based motion vector predictor
JP2020088451A (ja) 2018-11-16 2020-06-04 シャープ株式会社 動画像復号装置および動画像符号化装置
US11184633B2 (en) * 2018-11-27 2021-11-23 Qualcomm Incorporated Simplification of history-based motion vector prediction
US11394989B2 (en) * 2018-12-10 2022-07-19 Tencent America LLC Method and apparatus for video coding
TWI782887B (zh) 2018-12-28 2022-11-01 日商Ｊｖｃ建伍股份有限公司 影像編碼裝置、影像編碼方法、影像編碼程式、影像解碼裝置、影像解碼方法及影像解碼程式
CN117596389A (zh) * 2019-09-28 2024-02-23 北京字节跳动网络技术有限公司 视频编解码中的几何分割模式
WO2021155862A1 (en) * 2020-02-07 2021-08-12 Beijing Bytedance Network Technology Co., Ltd. Bv list construction process of ibc blocks under merge estimation region

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09172644A (ja) 1995-10-18 1997-06-30 Sharp Corp アフィン変換による動き補償フレーム間予測方式を用いた動画像符号化・復号化装置

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
BENJAMIN BROSS , JIANLE CHEN , SHAN LIU: "Versatile Video Coding (Draft 3", 12. JVET MEETING; 20181003 - 20181012; MACAO; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), no. JVET-L1001_v7, 3 October 2018 (2018-10-03), Macao, CN, pages 1 - 223, XP030200071 *
BENJAMIN BROSS , JIANLE CHEN , SHAN LIU: "Versatile Video Coding (Draft 4)", JOINT VIDEO EXPERTS TEAM (JVET) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11 13TH MEETING, no. JVET-M1001-v6, 9 March 2019 (2019-03-09), Marrakech, MA, pages 1 - 294, XP030202602 *
RUOYANG YU , DU LIU , KENNETH ANDERSSON , PER WENNERSTEN , JACOB STORM , RICKARD SJOBERG : "CE4-related: On MVP candidate list generation for AMVP", 13. JVET MEETING; 20190109 - 20190118; MARRAKECH; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), no. JVET-M0117, 11 January 2019 (2019-01-11), Marrakech, MA, pages 1 - 4, XP030201475 *
TIMOFEY SOLOVYEV , JIANLE CHEN , ALEXANDER KARABUTOV , SERGEY IKONIN : "CE4-related: History-based MVP without using the last lookup table entry", 12. JVET MEETING; 20181003 - 20181012; MACAO; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), no. JVET-L0425_v6, 3 October 2018 (2018-10-03), Macao, CN, pages 1 - 4, XP030195301 *
WEI-JUNG CHIEN , YU HAN , HAN HANG , CHUN-CHI CHEN , MARTA KARCZEWICZ: "CE4-related: Modification on History-based Mode Vector Prediction", 12. JVET MEETING; 20181003 - 20181012; MACAO; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), no. JVET-L0401, 5 October 2018 (2018-10-05), Macao, CN, pages 1 - 5, XP030194900 *

Also Published As

Publication number Publication date
US20230319264A1 (en) 2023-10-05
TW202415072A (zh) 2024-04-01
JP6911912B2 (ja) 2021-07-28
BR112021012485A2 (pt) 2021-09-08
KR20230051320A (ko) 2023-04-17
KR20210011452A (ko) 2021-02-01
TW202239210A (zh) 2022-10-01
US11503277B2 (en) 2022-11-15
CN116320478A (zh) 2023-06-23
JP7218777B2 (ja) 2023-02-07
TWI766214B (zh) 2022-06-01
TWI782887B (zh) 2022-11-01
RU2022101113A (ru) 2022-01-26
CN112929674B (zh) 2022-04-12
CN116320479A (zh) 2023-06-23
EP3905689A4 (en) 2022-09-28
JP2024023745A (ja) 2024-02-21
JP2021182740A (ja) 2021-11-25
CN112929674A (zh) 2021-06-08
JP2022036091A (ja) 2022-03-04
MX2021007754A (es) 2021-08-05
RU2765206C1 (ru) 2022-01-26
CN112470477B (zh) 2024-06-11
KR102521264B1 (ko) 2023-04-12
US20230319263A1 (en) 2023-10-05
US11785211B2 (en) 2023-10-10
CN112470477A (zh) 2021-03-09
JP7409365B2 (ja) 2024-01-09
TW202029772A (zh) 2020-08-01
US20230031948A1 (en) 2023-02-02
TW202306389A (zh) 2023-02-01
CN116233465A (zh) 2023-06-06
EP3905689A1 (en) 2021-11-03
US11979562B2 (en) 2024-05-07
TWI829386B (zh) 2024-01-11
JP2022008368A (ja) 2022-01-13
US20210329224A1 (en) 2021-10-21
JP2020182209A (ja) 2020-11-05
BR112021012485B1 (pt) 2022-05-03

Similar Documents

Publication Publication Date Title
JP7445936B2 (ja) 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
JP7409365B2 (ja) 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
JP7140224B2 (ja) 動画像復号装置、動画像復号方法、動画像復号プログラム、動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
WO2020137890A1 (ja) 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
WO2020137848A1 (ja) 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム
JP7251579B2 (ja) 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
JP7060773B2 (ja) 画像復号装置、画像復号方法及び画像復号プログラム
KR102719664B1 (ko) 화상 부호화 장치, 화상 부호화 방법, 화상 복호 장치, 화상 복호 방법 및 비트 스트림
WO2020137857A1 (ja) 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
JP2022046468A (ja) 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
KR20240152978A (ko) 화상 부호화 장치, 화상 부호화 방법, 화상 복호 장치, 화상 복호 방법, 격납 방법 및 전송 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19904357

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20207037257

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

REG Reference to national code

Ref country code: BR

Ref legal event code: B01A

Ref document number: 112021012485

Country of ref document: BR

ENP Entry into the national phase

Ref document number: 2019904357

Country of ref document: EP

Effective date: 20210728

ENP Entry into the national phase

Ref document number: 112021012485

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20210623