WO2024009877A1 - 動画像復号装置および動画像符号化装置 - Google Patents
動画像復号装置および動画像符号化装置 Download PDFInfo
- Publication number
- WO2024009877A1 WO2024009877A1 PCT/JP2023/024130 JP2023024130W WO2024009877A1 WO 2024009877 A1 WO2024009877 A1 WO 2024009877A1 JP 2023024130 W JP2023024130 W JP 2023024130W WO 2024009877 A1 WO2024009877 A1 WO 2024009877A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- oob
- processing
- unit
- reference block
- prediction
- Prior art date
Links
- 238000012545 processing Methods 0.000 claims abstract description 121
- 238000012952 Resampling Methods 0.000 claims abstract description 14
- 238000000034 method Methods 0.000 claims description 41
- 238000009795 derivation Methods 0.000 abstract description 35
- 238000013139 quantization Methods 0.000 description 30
- 239000013598 vector Substances 0.000 description 24
- 230000009466 transformation Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 11
- 238000000638 solvent extraction Methods 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 10
- 230000005540 biological transmission Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 230000006854 communication Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 229920000069 polyphenylene sulfide Polymers 0.000 description 3
- 208000034188 Stiff person spectrum disease Diseases 0.000 description 2
- 229920010524 Syndiotactic polystyrene Polymers 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 208000012112 ischiocoxopodopatellar syndrome Diseases 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000002490 spark plasma sintering Methods 0.000 description 2
- VBRBNWWNRIMAII-WYMLVPIESA-N 3-[(e)-5-(4-ethylphenoxy)-3-methylpent-3-enyl]-2,2-dimethyloxirane Chemical compound C1=CC(CC)=CC=C1OC\C=C(/C)CCC1C(C)(C)O1 VBRBNWWNRIMAII-WYMLVPIESA-N 0.000 description 1
- 241001025261 Neoraja caerulea Species 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/167—Position within a video image, e.g. region of interest [ROI]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
Definitions
- Embodiments of the present invention relate to a video decoding device and a video encoding device.
- a moving image encoding device In order to efficiently transmit or record moving images, a moving image encoding device generates encoded data by encoding a moving image, and a moving image generates a decoded image by decoding the encoded data.
- An image decoding device is used.
- Specific video encoding methods include, for example, H.264/AVC, HEVC (High-Efficiency Video Coding), and Versatile Video Coding (VVC).
- H.264/AVC High-Efficiency Video Coding
- HEVC High-Efficiency Video Coding
- VVC Versatile Video Coding
- the images (pictures) that make up a video are divided into slices obtained by dividing the image and coding tree units (CTU) obtained by dividing the slices. ), a coding unit obtained by dividing a coding tree unit (sometimes called a coding unit (CU)), and a transform unit (TU: obtained by dividing a coding unit). It is managed by a hierarchical structure consisting of Transform Units, and is encoded/decoded for each CU.
- CTU coding tree units
- a predicted image is usually generated based on a locally decoded image obtained by encoding/decoding the input image, and the predicted image is generated from the input image (original image).
- the prediction error obtained by subtraction (sometimes referred to as a "difference image” or "residual image") is encoded.
- Methods for generating predicted images include inter-screen prediction (inter prediction) and intra-screen prediction (intra prediction).
- inter prediction inter prediction
- intra-screen prediction intra-screen prediction
- motion compensation can be performed by performing wrap-around processing on the coordinates of a motion vector so that the left and right ends of the picture are continuous in the horizontal coordinate system.
- RPR reference picture resampling
- Non-Patent Document 1 describes OOB (Out -Of-Boundary) processing technology is disclosed.
- Non-Patent Document 1 there is no OOB determination process that corresponds to the wraparound process, and there is a problem that the wraparound process and the OOB process cannot be applied at the same time. Furthermore, when wraparound processing is applied, when the reference block is outside the left edge of the picture as shown in FIG. 8, the area on the right side of the picture is referred to. Therefore, there is a problem that the horizontal coordinate system does not fall outside the picture, and that applying OOB processing may reduce encoding efficiency. Furthermore, Non-Patent Document 1 does not have an OOB determination process that corresponds to the RPR process, and there is a problem that the RPR process and the OOB process cannot be applied at the same time.
- a reference picture having a different size from the target picture is reduced at a predetermined scale and held in a reference picture buffer. This causes a problem in that the coordinate system of the reference picture is different from the coordinate system of the target picture, and if RPR processing and OOB processing are used together, correct OOB determination processing cannot be performed.
- a video decoding device determines whether a reference block is a target of OOB processing by comparing the coordinates of the reference block with the coordinates of a picture.
- a video decoding device comprising an OOB determination unit and an OOB mask derivation unit that derives mask data representing availability of each pixel by comparing the coordinates of pixels included in a reference block with the coordinates of a picture, the video decoding device comprising:
- the OOB determination unit is characterized in that it determines whether the reference block is subject to OOB processing by detecting whether wraparound processing is applied to a reference picture that includes the reference block,
- the OOB determining unit is characterized in that it detects whether reference picture resampling processing is applied to a reference picture including the reference block, and determines whether the reference block is an OOB processing target.
- FIG. 1 is a schematic diagram showing the configuration of an image transmission system according to the present embodiment.
- FIG. 3 is a diagram showing a hierarchical structure of data of an encoded stream.
- 1 is a schematic diagram showing the configuration of a moving image decoding device.
- FIG. 2 is a schematic diagram showing the configuration of an inter predicted image generation section. It is a schematic diagram showing the composition of an inter prediction parameter derivation part.
- 3 is a flowchart illustrating the general operation of the moving image decoding device.
- FIG. 1 is a block diagram showing the configuration of a video encoding device.
- FIG. 3 is a diagram illustrating an example of wraparound processing and reference picture resampling processing in the prior art.
- 3 is a flowchart illustrating the general operation of OOB processing.
- FIG. 3 is a schematic diagram showing an example of OOB determination processing.
- FIG. 1 is a schematic diagram showing the configuration of an image transmission system 1 according to the present embodiment.
- the image transmission system 1 is a system that transmits an encoded stream in which a target image is encoded, decodes the transmitted encoded stream, and displays the image.
- the image transmission system 1 includes a video encoding device (image encoding device) 11, a network 21, a video decoding device (image decoding device) 31, and a video display device (image display device) 41. .
- An image T is input to the video encoding device 11.
- the network 21 transmits the encoded stream Te generated by the video encoding device 11 to the video decoding device 31.
- the network 21 is the Internet, a wide area network (WAN), a local area network (LAN), or a combination thereof.
- the network 21 is not necessarily a bidirectional communication network, but may be a unidirectional communication network that transmits broadcast waves such as terrestrial digital broadcasting and satellite broadcasting. Further, the network 21 may be replaced by a storage medium on which the encoded stream Te is recorded, such as a DVD (Digital Versatile Disc: registered trademark) or a BD (Blue-ray Disc: registered trademark).
- the video decoding device 31 decodes each encoded stream Te transmitted by the network 21, and generates one or more decoded images Td.
- the moving image display device 41 displays all or part of one or more decoded images Td generated by the moving image decoding device 31.
- the moving image display device 41 includes a display device such as a liquid crystal display or an organic EL (Electro-luminescence) display. Display formats include stationary, mobile, HMD, etc. Further, when the video decoding device 31 has high processing capacity, it displays a high quality image, and when it has only a lower processing capacity, it displays an image that does not require high processing capacity or display capacity. .
- x?y:z is a ternary operator that takes y when x is true (other than 0) and z when x is false (0).
- ClipH(o, W, x) is a function that returns x if x ⁇ 0, x-o if x>W-1, and x otherwise.
- Abs(a) is a function that returns the absolute value of a.
- Int(a) is a function that returns the integer value of a.
- floor(a) is a function that returns the largest integer less than or equal to a.
- ceil(a) is a function that returns the smallest integer greater than or equal to a.
- a/d represents the division of a by d (rounding down to the nearest whole number).
- ⁇ represents bitwise negation (not). This is a function that returns each bit as 0 as 1 and 1 as 0.
- FIG. 2 is a diagram showing the hierarchical structure of data in the encoded stream Te.
- the encoded stream Te exemplarily includes a sequence and a plurality of pictures that constitute the sequence.
- (a) to (f) in FIG. 2 are respectively an encoded video sequence that defines the sequence SEQ, an encoded picture that defines the picture PICT, an encoded slice that defines the slice S, and an encoded slice that defines the slice data.
- FIG. 3 is a diagram showing data, a coding tree unit included in coded slice data, and a coding unit included in the coding tree unit.
- the encoded video sequence In the encoded video sequence, a set of data that the moving image decoding device 31 refers to in order to decode the sequence SEQ to be processed is defined.
- the sequence SEQ includes a video parameter set (Video Parameter Set), a sequence parameter set SPS (Sequence Parameter Set), a picture parameter set PPS (Picture Parameter Set), an Adaptation Parameter Set (APS), a picture PICT, It also includes SEI (Supplemental Enhancement Information).
- Video parameter set VPS is a set of encoding parameters common to multiple video images and encoding parameters related to multiple layers and individual layers included in the video image. A set is defined.
- the sequence parameter set SPS defines a set of encoding parameters that the video decoding device 31 refers to in order to decode the target sequence. For example, the width and height of the picture are defined. Note that a plurality of SPSs may exist. In that case, select one of the multiple SPSs from the PPSs.
- the picture parameter set PPS defines a set of encoding parameters that the video decoding device 31 refers to in order to decode each picture in the target sequence. For example, it includes a reference value for the quantization width used in picture decoding (pic_init_qp_minus26) and a flag indicating application of weighted prediction (weighted_pred_flag). Note that multiple PPSs may exist. In that case, one of the plurality of PPSs is selected from each picture in the target sequence.
- the encoded picture In the encoded picture, a set of data that the video decoding device 31 refers to in order to decode the picture PICT to be processed is defined. As shown in FIG. 2, the picture PICT includes slices 0 to NS-1 (NS is the total number of slices included in the picture PICT).
- a slice In the encoded slice, a set of data that the video decoding device 31 refers to in order to decode the slice S to be processed is defined. As shown in FIG. 2, a slice includes a slice header and slice data.
- the slice header includes a group of encoding parameters that the video decoding device 31 refers to in order to determine the decoding method for the target slice.
- Slice type designation information (slice_type) that designates the slice type is an example of an encoding parameter included in the slice header.
- Slice types that can be specified by the slice type designation information include (1) an I slice that uses only intra prediction during encoding, (2) a P slice that uses unidirectional prediction or intra prediction during encoding, (3) Examples include B slices that use unidirectional prediction, bidirectional prediction, or intra prediction during encoding.
- inter prediction is not limited to uni-prediction or bi-prediction, and a predicted image may be generated using more reference pictures.
- P and B slices they refer to slices that include blocks for which inter prediction can be used.
- the slice header may include a reference to the picture parameter set PPS (pic_parameter_set_id).
- the encoded slice data defines a set of data that the video decoding device 31 refers to in order to decode the slice data to be processed.
- the slice data includes CTUs, as shown in FIG. 2(d).
- a CTU is a block of fixed size (for example, 64x64) that constitutes a slice, and is also called a largest coding unit (LCU).
- CTU uses recursive quad tree partitioning (QT (Quad Tree) partitioning), binary tree partitioning (BT (Binary Tree) partitioning), or ternary tree partitioning (TT (Ternary Tree) partitioning) to improve the encoding process. It is divided into basic units, encoding units CU. The combination of BT partitioning and TT partitioning is called multi-tree partitioning (MT (Multi Tree) partitioning). A tree-structured node obtained by recursive quadtree partitioning is called a coding node.
- QT Quad Tree
- BT Binary Tree
- TT Ternary Tree partitioning
- An intermediate node of a quadtree, a binary tree, and a tertiary tree is a coding node, and the CTU itself is defined as the topmost coding node. Furthermore, the lowest encoding node is defined as a encoding unit.
- the CU includes a CU header CUH, prediction parameters, transformation parameters, quantized transformation coefficients, and the like.
- the prediction mode etc. are defined in the CU header.
- Prediction processing may be performed on a CU basis or on a sub-CU basis by further dividing a CU. If the sizes of the CU and sub-CU are equal, there is one sub-CU in the CU. If the CU is larger than the sub-CU size, the CU is divided into sub-CUs. For example, if the CU is 8x8 and the sub-CU is 4x4, the CU is divided into four sub-CUs, two horizontally and two vertically.
- prediction modes include intra prediction (MODE_INTRA), inter prediction (MODE_INTER), and intra block copy (MODE_IBC).
- Intra prediction is prediction within the same picture, and inter prediction refers to prediction processing performed between mutually different pictures (for example, between display times, between layer images).
- the quantized transform coefficients may be entropy encoded in units of subblocks such as 4x4.
- prediction parameter A predicted image is derived by prediction parameters associated with a block.
- the prediction parameters include intra prediction and inter prediction parameters.
- the inter prediction parameters are composed of prediction list usage flags predFlagL0 and predFlagL1, reference picture indexes refIdxL0 and refIdxL1, and motion vectors mvL0 and mvL1.
- predFlagL0 and predFlagL1 are flags indicating whether or not a reference picture list (L0 list, L1 list) is used, and when the value is 1, the corresponding reference picture list is used.
- a flag other than 0 for example, 1) is XX, and 0 is not XX, and logical negation, logical product, etc. Treat 1 as true and 0 as false (the same applies hereafter).
- other values can be used as true values and false values.
- merge_flag (general_merge_flag), merge index merge_idx, merge_subblock_flag, regulare_merge_flag, ciip_flag, merge_gpm_partition_idx, merge_gpm_idx0, merge_gpm_idx1, inter_pred_idc, reference picture index refIdxLX, mvp _LX_idx, difference vector mvdLX, motion vector accuracy mode amvr_mode.
- merge_subblock_flag is a flag indicating whether to use inter prediction in units of subblocks.
- regulare_merge_flag is a flag indicating whether regular merge mode or MMVD is used.
- ciip_flag is a flag indicating whether to use CIIP (combined inter-picture merge and intra-picture prediction) mode.
- merge_gpm_partition_idx is an index indicating the partition shape in GPM mode.
- merge_gpm_idx0 and merge_gpm_idx1 are indexes indicating merge indexes in GPM mode.
- inter_pred_idc is an inter prediction identifier for selecting a reference picture used in AMVP mode.
- mvp_LX_idx is a predicted vector index for deriving a motion vector.
- the reference picture list is a list of reference pictures stored in reference picture memory 306.
- LX is a description method used when not distinguishing between L0 prediction and L1 prediction, and hereinafter, by replacing LX with L0 and L1, parameters for the L0 list and parameters for the L1 list are distinguished.
- Merge prediction and AMVP prediction There are two methods for decoding (encoding) prediction parameters: merge mode and AMVP (Advanced Motion Vector Prediction) mode.
- general_merge_flag is a flag to identify these modes. be.
- Merge mode is a prediction mode that omits part or all of the motion vector difference, and predicts neighboring blocks that have already been processed without including the prediction list usage flag predFlagLX, reference picture index refIdxLX, and motion vector mvLX in the encoded data. This is a mode that is derived from parameters etc.
- AMVP mode is a mode in which inter_pred_idc, refIdxLX, and mvLX are included in encoded data.
- mvLX is encoded as mvp_LX_idx that identifies prediction vector mvpLX and difference vector mvdLX.
- general merge mode the general term for prediction modes that omit and simplify motion vector differences is called general merge mode, and general merge mode and AMVP prediction may be selected by general_merge_flag.
- regular_merge_flag may be transmitted separately. If regular_merge_flag is 1, normal merge mode or MMVD may be selected, and in other cases, CIIP mode or GPM mode may be selected.
- CIIP mode generates a predicted image by a weighted sum of an inter-predicted image and an intra-predicted image.
- GPM mode a predicted image is generated using a target CU as two non-rectangular prediction units divided by a line segment.
- inter_pred_idc is a value indicating the type and number of reference pictures, and takes any value of PRED_L0, PRED_L1, or PRED_BI.
- PRED_L0 and PRED_L1 indicate uni-prediction using one reference picture managed in the L0 list and L1 list, respectively.
- PRED_BI indicates bi-prediction using two reference pictures managed by L0 list and L1 list.
- merge_idx is an index indicating which prediction parameter is used as the prediction parameter of the target block among the prediction parameter candidates (merging candidates) derived from the block for which processing has been completed.
- (motion vector) mvLX indicates the amount of shift between blocks on two different pictures.
- the predicted vector and difference vector regarding mvLX are called mvpLX and mvdLX, respectively.
- inter_pred_idc Inter prediction identifier inter_pred_idc and prediction list usage flag predFlagLX
- inter_pred_idc The relationship between inter_pred_idc, predFlagL0, and predFlagL1 is as follows, and they are mutually convertible.
- the flag biPred indicating bi-prediction can be derived depending on whether the two prediction list usage flags are both 1 or not. . For example, it can be derived using the following formula.
- biPred can also be derived depending on whether the inter prediction identifier is a value indicating that two prediction lists (reference pictures) are used. For example, it can be derived using the following formula.
- the configuration of the moving image decoding device 31 (FIG. 3) according to this embodiment will be explained.
- the video decoding device 31 includes an entropy decoding section 301, a parameter decoding section (predicted image decoding device) 302, a loop filter 305, a reference picture memory 306, a prediction parameter memory 307, a predicted image generation section (predicted image generation device) 308, and an inverse It is configured to include a quantization/inverse transformation section 311, an addition section 312, and a prediction parameter derivation section 320. Note that there is also a configuration in which the loop filter 305 is not included in the video decoding device 31 in accordance with the video encoding device 11 described later.
- the parameter decoding unit 302 further includes a header decoding unit 3020, a CT information decoding unit 3021, and a CU decoding unit 3022 (prediction mode decoding unit), and the CU decoding unit 3022 further includes a TU decoding unit 3024. These may be collectively called a decoding module.
- the header decoding unit 3020 decodes parameter set information such as VPS, SPS, PPS, and APS, and a slice header (slice information) from encoded data.
- CT information decoding section 3021 decodes CT from encoded data.
- CU decoding section 3022 decodes CU from encoded data.
- TU decoding section 3024 decodes CU from encoded data.
- the TU decoding unit 3024 decodes the QP update information and quantized transform coefficients from the encoded data.
- the QP update information is a difference value from a quantization parameter predicted value qPpred, which is a predicted value of the quantization parameter QP.
- the predicted image generation unit 308 is configured to include an inter predicted image generation unit 309 (FIG. 4) and an intra predicted image generation unit 310.
- the prediction parameter derivation unit 320 includes an inter prediction parameter derivation unit 303 (FIG. 5) and an intra prediction parameter derivation unit.
- CTU and CU are used as processing units
- the processing is not limited to this example, and processing may be performed in sub-CU units.
- CTU and CU may be read as blocks, and sub-CUs may be read as sub-blocks, and processing may be performed in units of blocks or sub-blocks.
- the entropy decoding unit 301 performs entropy decoding on the encoded stream Te input from the outside, and decodes each code (syntax element).
- Entropy encoding has two methods: variable-length encoding of syntax elements using a context (probabilistic model) adaptively selected according to the type of syntax element and surrounding situation, and a method of encoding syntax elements with variable length using a predetermined table or There is a method of variable length encoding of syntax elements using calculation formulas.
- the entropy decoding unit 301 outputs the decoded code to the parameter decoding unit 302.
- the decoded codes are, for example, prediction modes predMode, general_merge_flag, merge_idx, inter_pred_idc, refIdxLX, mvp_LX_idx, mvdLX, amvr_mode, and the like. Control of which code to decode is performed based on instructions from parameter decoding section 302.
- FIG. 6 is a flowchart illustrating the general operation of the moving image decoding device 31.
- the header decoding unit 3020 decodes parameter set information such as VPS, SPS, and PPS from the encoded data.
- the header decoding unit 3020 decodes the slice header (slice information) from the encoded data.
- the video decoding device 31 derives a decoded image for each CTU by repeating the processes from S1300 to S5000 for each CTU included in the target picture.
- the CT information decoding unit 3021 decodes the CTU from the encoded data.
- the CT information decoding unit 3021 decodes CT from encoded data.
- the CU decoding unit 3022 performs S1510 and S1520 to decode the CU from the encoded data.
- the CU decoding unit 3022 decodes CU information, prediction information, TU division flag, CU residual flag, etc. from encoded data.
- the TU decoding unit 3024 decodes the quantization prediction error and the like from the encoded data.
- the predicted image generation unit 308 generates a predicted image for each block included in the target CU based on prediction information.
- the inverse quantization/inverse transformation unit 311 executes inverse quantization/inverse transformation processing for each TU included in the target CU.
- the addition unit 312 decodes the target CU by adding the predicted image supplied from the predicted image generation unit 308 and the prediction error supplied from the inverse quantization/inverse transformation unit 311. Generate an image.
- the loop filter 305 applies a loop filter such as a deblocking filter, SAO, or ALF to the decoded image to generate a decoded image.
- a loop filter such as a deblocking filter, SAO, or ALF
- the loop filter 305 is a filter provided in the encoding loop, and is a filter that removes block distortion and ringing distortion and improves image quality.
- the loop filter 305 applies filters such as a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) to the decoded image of the CU generated by the addition unit 312.
- filters such as a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) to the decoded image of the CU generated by the addition unit 312.
- the reference picture memory 306 stores the decoded image of the CU generated by the addition unit 312 in a predetermined position for each target picture and target CU.
- the prediction parameter memory 307 stores prediction parameters in a predetermined position for each CTU or CU to be decoded. Specifically, the prediction parameter memory 307 stores the parameters decoded by the parameter decoding unit 302 and the prediction mode predMode separated by the entropy decoding unit 301.
- PredMode, prediction parameters, etc. are input to the predicted image generation unit 308.
- the predicted image generation unit 308 also reads a reference picture from the reference picture memory 306.
- the predicted image generation unit 308 generates a predicted image of a block or subblock using the prediction parameter and the read reference picture (reference block) in the prediction mode indicated by predMode.
- the reference block is a set of pixels on a reference picture (usually called a block because it is rectangular), and is an area to be referred to in order to generate a predicted image.
- the inter prediction parameter derivation unit 303 derives inter prediction parameters by referring to the prediction parameters stored in the prediction parameter memory 307 based on the syntax elements input from the parameter decoding unit 302. . Furthermore, the inter prediction parameters are output to the inter prediction image generation unit 309 and the prediction parameter memory 307.
- the inter prediction parameter derivation unit 303 and its internal elements, such as the AMVP prediction parameter derivation unit 3032, merge prediction parameter derivation unit 3036, MMVD prediction unit 30376, and MV addition unit 3038, are common to the video encoding device and the video decoding device. Therefore, these may be collectively referred to as a motion vector derivation unit (motion vector derivation device).
- merge_idx is derived and output to the merge prediction parameter derivation unit 3036.
- the AMVP prediction parameter derivation unit 3032 derives mvpLX from inter_pred_idc, refIdxLX, or mvp_LX_idx.
- the MV addition unit 3038 adds the derived mvpLX and mvdLX to derive mvLX.
- the merging prediction parameter deriving unit 3036 derives merging candidates including prediction parameters (predFlagLX, mvLX, refIdxLX) and constructs a merging candidate list. Furthermore, the merging prediction parameter deriving unit 3036 uses the motion information (mvLXN[0], mvLXN[1]), predFlagLXN, and refIdxLXN of the merging candidate N indicated by merge_idx among the merging candidates included in the merging candidate list to inter-predict the target block. Select as a parameter. The merge prediction parameter derivation unit 3036 stores the inter prediction parameters of the selected merge candidates in the prediction parameter memory 307 and outputs them to the inter prediction image generation unit 309.
- prediction parameters predFlagLX, mvLX, refIdxLX
- Inter predicted image generation unit 309 When predMode indicates inter prediction, the inter prediction image generation unit 309 generates a predicted image of the block or subblock by inter prediction using the inter prediction parameters input from the inter prediction parameter derivation unit 303 and the reference picture.
- FIG. 4 is a schematic diagram showing the configuration of an inter predicted image generation unit 309 included in the predicted image generation unit 308 according to the present embodiment.
- the inter predicted image generation unit 309 includes a motion compensation unit (predicted image generation device) 3091, an OOB processing unit 3092, and a composition unit 3095.
- the combining section 3095 is configured to include a weight predicting section 3094.
- the motion compensation unit 3091 performs interpolation by reading the reference block from the reference picture memory 306 based on the inter prediction parameters (predFlagLX, refIdxLX, mvLX) input from the inter prediction parameter derivation unit 303. Generate an image (motion compensated image).
- the reference block is a block at a position shifted by mvLX from the position of the target block on the reference picture RefPicLX specified by refIdxLX.
- a filter called a motion compensation filter for generating pixels at decimal positions is applied to generate an interpolated image.
- the motion compensation unit 3091 calculates the integer position ( xInt, yInt) and phase (xFrac, yFrac) are derived using the following formulas (MC-P1).
- ClipH ( PpsRefWraparoundOffset ) * MinCbSizeY, picW, xInt ) : xInt )
- yInt Clip3( SubpicTopBoundaryPos, SubpicBotBoundaryPos, yInt )
- SubpicLeftBoundaryPos, SubpicRightBoundaryPos, SubpicTopBoundaryPos, and SubpicBottomBoundaryPos are the left, right, top, and bottom boundary positions of the subpicture, respectively.
- the motion compensation unit 3091 derives the temporary image temp[][] by performing horizontal interpolation processing on the reference picture refImg using an interpolation filter.
- mcFilter[Frac][k] is the k-th interpolation filter coefficient in phase Frac
- shift1 is the normalization parameter that adjusts the value range
- offset1 1 ⁇ (shift1-1).
- temp[x][y] ( ⁇ mcFilter[xFrac][k]*refImg[xInt+k-NTAP/2+1][yInt]+offset1)>>shift1
- the motion compensation unit 3091 performs vertical interpolation processing on the temporary image temp[][] to derive an interpolated image Pred[][].
- shift2 is a normalization parameter that adjusts the range of values
- offset2 1 ⁇ (shift2-1).
- Pred[x][y] ( ⁇ mcFilter[yFrac][k]*temp[x][y+k-NTAP/2+1]+offset2)>>shift2 (formula MC-1) (Out of picture range (OOB) processing)
- the OOB processing section 3092 includes an OOB determination section 30921 and an OOB mask derivation section 30922. Based on the inter prediction parameters (predFlagLX, refIdxLX, mvLX) input from the inter prediction parameter derivation unit 303, the OOB determination unit 30921 determines whether each reference block in bi-prediction mode is outside the range of the reference picture (OOB: Out-Of -Bouondary) area is included.
- the OOB mask derivation unit 30922 determines that some pixels of the reference block are outside the picture.
- Mask data mask value, OOB mask
- the inter predicted image generation unit 309 generates a predicted image by applying an OOB mask to the OOB reference block (S1006).
- the inter predicted image generation unit 309 generates a normal predicted image for the non-OOB reference block (S1008). Details will be explained below.
- the OOB determination unit 30921 determines whether at least some pixels of each reference block are out-of-picture (OOB) for two (first and second) reference blocks.
- FIG. 10 is a diagram in integer units, and the motion vector mvLX' and reference pixel position (xRefLX', yRefLX') are parameters that represent the motion vector mvLX and reference pixel position (xRefLX, yRefLX) as integers.
- (yRefLX ⁇ picMinY)
- (xRefLX + (bW ⁇ log2MVPREC) - 1) > picMaxX)
- (yRefLX + (bH ⁇ log2MVPREC) - 1) > picMaxY) picMinX, picMinY, picMaxX, picMaxY are the minimum and maximum coordinates of the picture expressed with mvLX precision.
- log2MVPREC bit left shift (“ ⁇ log2MVPREC") may be processed by multiplying by MVPREC ("*MVPREC"), or "*MVPREC" described later may be processed by " ⁇ log2MVPREC”.
- the OOB determining unit 30921 of this configuration example determines whether the target block is a target of OOB processing, including determining whether wraparound processing is applied to the target picture. Similarly, it may be determined whether the reference block is to be subjected to OOB processing based on whether wraparound processing is applied to a reference picture that includes the reference block.
- the syntax element pps_ref_wraparound_enabled_flag notified in PPS is a flag indicating whether horizontal wraparound motion compensation is available.
- pps_ref_wraparound_enabled_flag is true (1), it indicates that reference picture wraparound processing is applied (valid) to the target picture.
- (yRefLX ⁇ picMinY)
- (xRefLX + (bW ⁇ log2MVPREC) -1) > picMaxX)
- (yRefLX + (bH ⁇ log2MVPREC) -1) > picMaxY))
- pps_ref_wraparound_enabled_flag is used to determine whether wraparound processing is to be performed, but the present invention is not limited to this.
- the value of another variable or function, such as refWraparoundEnabledFlag, which is derived using the presence or absence of wraparound processing in the target picture may be used (the following configuration is similar).
- OOB processing prevents a decrease in encoding efficiency due to inappropriate wraparound processing, and has the effect of suppressing an increase in the amount of calculation in predicted image generation.
- (yRefLX ⁇ picMinY)
- the OOB determination unit 30921 in this configuration example performs OOB determination processing on a reference picture to which reference picture resampling (RPR) processing has been applied, after correcting the coordinates at a predetermined scale. Specifically, the coordinates are corrected as follows.
- the motion compensation unit 3091 derives the luminance coordinates (refxSbL, refySbL) and (refxL, refyL) indicated by the motion vector refMvLX as follows (MC-P2) instead of (MC-P1) described above.
- SubWidthC and SubHeightC are values determined by the sampling method of the chrominance format, and are the ratio of the width and height of the chrominance pixel to the width and height of the luminance pixel.
- the syntax element sps_chroma_format_idc in the encoded data may be decoded and derived as follows. sps_chroma_format_idc is a parameter indicating the color difference format.
- scalingRatio[0] and scalingRatio[1] are scaling factors of the reference picture in the horizontal direction and vertical direction, respectively, with respect to the target picture.
- CurrPicScalWinHeightL pps_pic_height_in_luma_samples ?SubHeightC * (pps_scaling_win_bottom_offset + pps_scaling_win_top_offset)
- fRefWidth CurrPicScalWinWidthL of the j-th reference picture of RefPicListX
- fRefHeight CurrPicScalWinHeightL of the j-th reference picture of RefPicListX.
- pps_pic_width_in_luma_samples and pps_pic_height_in_luma_samples are the width and height of the picture.
- fRefLeftOffset and fRefTopOffset are values set as follows.
- fRefLeftOffset (SubWidthC * pps_scaling_win_left_offset) ⁇ 10)
- fRefTopOffset (SubHeightC * pps_scaling_win_top_offset) ⁇ 10)
- xL, yL are relative coordinates with the upper left coordinates of the reference block as (0,0).
- the OOB determination unit 30921 calculates (xRefLX,yRefLX ) is derived.
- the width bW and height bH of the reference block corrected for scaling due to RPR processing are respectively derived by the following formulas.
- bW sbWidth * ((scalingRatio[0]+8)>>4)
- bH sbHeight * ((scalingRatio[1]+8)>>4)
- the OOB determination unit 30921 uses the coordinates (xRefLX, xRefLY) corrected by scaling in this way to determine whether the reference block is OOB.
- (yRefLX ⁇ picMinY)
- (xRefLX + (bW ⁇ log2MVPREC) - 1) > picMaxX)
- (yRefLY + (bH ⁇ log2MVPREC) - 1) > picMaxY)
- (yRefLY + (bH ⁇ log2MVPREC) - 1) > picMaxY)
- (yRefLY + (bH ⁇ log2MVPREC) - 1) > picMaxY)
- ⁇ Configuration example 4> In configuration example 4, an example will be described in which OOB processing is not performed on a reference picture to which RPR processing is applied.
- the OOB determining unit 30921 in this configuration example determines whether the target block is a target of OOB processing, including determining whether reference picture resampling (RPR) processing is applied.
- RPR reference picture resampling
- (yRefLX ⁇ picMinY)
- (xRefLX + (bW ⁇ log2MVPREC) -1) > picMaxX)
- (yRefLX + (bH ⁇ log2MVPREC) -1) > picMaxY) ⁇
- the determination may be made using a logical expression for OOB determination processing instead of a conditional branch.
- refPicIsScaled is a variable that becomes true when RPR processing is effective in the reference picture and the sizes of the target picture and the reference picture are different. It may be derived below.
- pps_pic_height_in_luma_samples ! refPicHeight
- pps_scaling_win_left_offset ! refScalingWinLeftOffset
- pps_scaling_win_right_offset ! refScalingWinRightOffset
- pps_scaling_win_top_offset ! refScalingWinTopOffset
- pps_scaling_win_bottom_offset ! refScalingWinBottomOffset
- sps_num_subpics_minus1 ! fRefNumSubpics) SPS_NUM_SUBPICS_MINUS1+1, FrefnumSubpics is the number of subpectives in the target picture, the number of sub -pic
- the OOB process is not applied to the reference picture to which the RPR process is applied, and it is possible to reduce the amount of calculation in generating the predicted image.
- ⁇ Configuration example 5> In this configuration example, a case will be described in which both wraparound processing and reference picture resampling processing can be used.
- the OOB determination unit 30921 of this configuration example determines whether the target block has been applied, including determining whether wraparound processing is applied to the target picture and determining whether reference picture resampling (RPR) processing is applied. Determine whether it is subject to OOB processing.
- RPR reference picture resampling
- OOB determination unit 30921 is not limited to this configuration example, and may be configured by another combination of configuration example 1 or 2 and configuration example 3 or 4.
- OOB mask derivation processing The OOB mask derivation unit 30922 derives an OOB mask (OOBMask[X]) for the reference block.
- false and true are not limited to 0 and 1, but may be other values, such as a bit mask value "0000000000b” or “1111111111b” consisting of a binary string of lengths 0 or 1 greater than or equal to BitDepth. . Hexadecimal numbers “000”, “3FF”, “000”, “FFF”, “0000”, and “FFFF” may also be used.
- the motion compensation unit 3091 converts Pred[][] derived by the above (Formula MC-1) into an interpolated image PredL0[] for each L0 list and L1 list. Set as [] and PredL1[][]. Then, an interpolated image Pred[][] is generated from PredL0[][] and PredL1[][].
- the OOBMask[X] corresponding to the reference block is used to generate a predicted image.
- Pred[][] is derived as follows.
- shift1 Max(2,14-bitDepth)
- shift2 Max(3,15-bitDepth)
- offset1 1 ⁇ (shift1-1)
- offset2 1 ⁇ (shift2-1).
- shift1 is a shift (eg, 14-bitDepth) for returning the interpolated image bit depth (eg, 14 bits) to the original bit depth.
- shift2 is the right shift amount that serves as an average while restoring the original bits
- offset1 and offset2 are rounding values when shifting to the right by shift1 and shift2.
- bcwIndex is an index indicating the weight of BCW.
- bit masks of "1111111111b" and "0000000000b" with BitDepth length in binary numbers as the values of OOBMask[0][px][py] and OOBMask[1][px][py] use the following.
- Pred[px][py] (formula excl-1) (PredBI[px][py] & (0-((!OOBMask[0][px][py] & !OOBMask[1][px][py]) ? 1 : 0)))+ (PredL0[px][py] & (0-(!OOBMask[0][px][py] ? 1 : 0))) + (PredL1[px][py] & (0-(!OOBMask[1][px][py] ?
- the above formula converts a binary (0 or 1) mask to 0 (all bits are 0, pixel value is invalid) or -1 ( Contains the calculation to convert all bits to 1 (pixel values are valid).
- the derivation of the predicted image is not limited to this, and calculation may be used such that the term invalidated by the OOB mask is 0 among the three terms corresponding to PredBI, PredL0, and PredL1. For example, when the bit depth of a pixel value is set to a maximum of 16 bits, the following equation may be used.
- Pred[px][py] (PredBI[px][py] & ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 0xFFFF : 0))+ (PredL0[px][py] & (!OOBMask[0][px][py] ? 0xFFFF : 0)) + (PredL1[px][py] & (!OOBMask[1][px][py] ? 0xFFFF : 0))
- bitwise OR may be used as shown below.
- Pred[px][py] (PredBI[px][py] & ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 0xFFFF : 0))
- multiplication may be used.
- Pred[px][py] (PredBI[px][py] * ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 1 : 0)) + (PredL0[px][py] * (!OOBMask[0][px][py] ? 1 : 0)) + (PredL1[px][py] * (!OOBMask[1][px][py] ? 1 : 0)) According to the above, exclusive processing can be simplified. Exclusion processing can simplify the processing compared to the calculation of (formula excl-1).
- the motion compensation unit 3091 may divide the processing in advance by referring to the value of isOOB. For example, the following may be used. In this way, when isOOB[X] is false, there is no need to refer to OOBMask[X][px][py] for each pixel, which has the effect of reducing the amount of calculation.
- the inter predicted image generation unit 309 outputs the generated predicted image of the block to the addition unit 312.
- FIG. 7 is a block diagram showing the configuration of the video encoding device 11 according to this embodiment.
- the video encoding device 11 includes a predicted image generation section 101, a subtraction section 102, a transformation/quantization section 103, an inverse quantization/inverse transformation section 105, an addition section 106, a loop filter 107, a prediction parameter memory (prediction parameter storage section , frame memory) 108, reference picture memory (reference image storage unit, frame memory) 109, encoding parameter determination unit 110, parameter encoding unit 111, prediction parameter derivation unit 120, and entropy encoding unit 104.
- a prediction parameter memory prediction parameter storage section , frame memory
- reference picture memory reference image storage unit, frame memory
- the predicted image generation unit 101 generates a predicted image for each CU.
- the predicted image generation unit 101 includes the inter predicted image generation unit 309 and the intra predicted image generation unit, which have already been described, and a description thereof will be omitted.
- the subtraction unit 102 subtracts the pixel value of the predicted image of the block input from the predicted image generation unit 101 from the pixel value of the image T to generate a prediction error.
- Subtraction section 102 outputs the prediction error to conversion/quantization section 103.
- the conversion/quantization unit 103 calculates conversion coefficients by frequency conversion for the prediction error input from the subtraction unit 102, and derives quantized conversion coefficients by quantization. Transformation/quantization section 103 outputs the quantized transformation coefficients to parameter encoding section 111 and inverse quantization/inverse transformation section 105.
- the conversion/quantization unit 103 includes a separation conversion unit (first conversion unit), a non-separation conversion unit (second conversion unit), and a scaling unit.
- the separation transformation unit applies separation transformation to the prediction error.
- the scaling unit performs scaling on the transform coefficients using a quantization matrix.
- the inverse quantization/inverse transformation unit 105 is the same as the inverse quantization/inverse transformation unit 311 in the moving image decoding device 31, and a description thereof will be omitted.
- the calculated prediction error is output to addition section 106.
- the parameter encoding unit 111 includes a header encoding unit 1110, a CT information encoding unit 1111, and a CU encoding unit 1112 (prediction mode encoding unit).
- CU encoding section 1112 further includes a TU encoding section 1114. The general operation of each module will be explained below.
- the header encoding unit 1110 performs encoding processing of parameters such as header information, division information, prediction information, and quantization transform coefficients.
- the CT information encoding unit 1111 encodes QT, MT (BT, TT) division information, etc.
- the CU encoding unit 1112 encodes CU information, prediction information, division information, etc.
- the TU encoding unit 1114 encodes the QP update information and the quantization prediction error when the TU includes a prediction error.
- CT information encoding unit 1111 and CU encoding unit 1112 parameter encode syntax elements such as inter prediction parameters (predMode, general_merge_flag, merge_idx, inter_pred_idc, refIdxLX, mvp_LX_idx, mvdLX), intra prediction parameters, and quantization transform coefficients.
- inter prediction parameters predMode, general_merge_flag, merge_idx, inter_pred_idc, refIdxLX, mvp_LX_idx, mvdLX
- intra prediction parameters mvp_LX_idx
- quantization transform coefficients quantization transform coefficients.
- Quantized transform coefficients and encoding parameters are input to the entropy encoding unit 104 from the parameter encoding unit 111.
- Entropy encoding section 104 entropy encodes these to generate encoded stream Te and outputs it.
- the prediction parameter derivation unit 120 is means that includes an inter prediction parameter encoding unit 112 and an intra prediction parameter encoding unit, and derives intra prediction parameters and inter prediction parameters from the parameters input from the encoding parameter determination unit 110.
- the derived intra prediction parameters and inter prediction parameters are output to parameter encoding section 111.
- the inter prediction parameter encoding unit 112 includes a parameter encoding control unit 1121 and an inter prediction parameter deriving unit 303.
- the inter prediction parameter deriving unit 303 has a common configuration with the video decoding device.
- the parameter encoding control unit 1121 includes a merge index deriving unit 11211 and a vector candidate index deriving unit 11212.
- the merging index deriving unit 11211 derives merging candidates, etc., and outputs them to the inter prediction parameter deriving unit 303.
- Vector candidate index deriving section 11212 derives predictive vector candidates and the like, and outputs them to inter prediction parameter deriving section 303 and parameter encoding section 111.
- the intra prediction parameter encoding section includes a parameter encoding control section and an intra prediction parameter deriving section.
- the intra prediction parameter derivation unit has a common configuration with the video decoding device.
- the inputs to the inter prediction parameter derivation unit 303 and the intra prediction parameter derivation unit are the encoding parameter determination unit 110 and the prediction parameter memory 108, and are output to the parameter encoding unit 111.
- the addition unit 106 adds the pixel value of the prediction block input from the prediction image generation unit 101 and the prediction error input from the inverse quantization/inverse transformation unit 105 for each pixel to generate a decoded image. Adding unit 106 stores the generated decoded image in reference picture memory 109.
- the loop filter 107 applies a deblocking filter, SAO, and ALF to the decoded image generated by the addition unit 106.
- SAO deblocking filter
- ALF ALF
- the loop filter 107 does not necessarily need to include the above three types of filters, and may have a configuration including only a deblocking filter, for example.
- the prediction parameter memory 108 stores the prediction parameters generated by the encoding parameter determination unit 110 at predetermined positions for each target picture and CU.
- the reference picture memory 109 stores the decoded image generated by the loop filter 107 in a predetermined position for each target picture and CU.
- the encoding parameter determination unit 110 selects one set from among the multiple sets of encoding parameters.
- the encoding parameter is the above-mentioned QT, BT or TT division information, a prediction parameter, or a parameter to be encoded that is generated in relation to these.
- Predicted image generation section 101 generates a predicted image using these encoding parameters.
- the encoding parameter determining unit 110 calculates an RD cost value indicating the amount of information and encoding error for each of the plurality of sets.
- the RD cost value is, for example, the sum of the code amount and the value obtained by multiplying the squared error by a coefficient ⁇ .
- the code amount is the information amount of the encoded stream Te obtained by entropy encoding the quantization error and the encoding parameter.
- the squared error is the sum of squared prediction errors calculated by the subtraction unit 102.
- the coefficient ⁇ is a preset real number larger than zero.
- Encoding parameter determining section 110 selects a set of encoding parameters that minimizes the calculated cost value.
- Encoding parameter determining section 110 outputs the determined encoding parameters to parameter encoding section 111 and prediction parameter deriving section 120.
- some of the video encoding device 11 and video decoding device 31 in the embodiment described above such as the entropy decoding unit 301, the parameter decoding unit 302, the loop filter 305, the predicted image generation unit 308, and the dequantization/inverse Transform unit 311, addition unit 312, prediction parameter derivation unit 320, predicted image generation unit 101, subtraction unit 102, transformation/quantization unit 103, entropy encoding unit 104, inverse quantization/inverse transformation unit 105, loop filter 107,
- the encoding parameter determining section 110, the parameter encoding section 111, and the prediction parameter deriving section 120 may be realized by a computer.
- a program for realizing this control function may be recorded on a computer-readable recording medium, and the program recorded on the recording medium may be read into a computer system and executed.
- the "computer system” herein refers to a computer system built into either the video encoding device 11 or the video decoding device 31, and includes hardware such as an OS and peripheral devices.
- the term "computer-readable recording medium” refers to portable media such as flexible disks, magneto-optical disks, ROMs, and CD-ROMs, and storage devices such as hard disks built into computer systems.
- a "computer-readable recording medium” refers to a medium that dynamically stores a program for a short period of time, such as a communication line when transmitting a program via a network such as the Internet or a communication line such as a telephone line. In that case, it may also include something that retains a program for a certain period of time, such as a volatile memory inside a computer system that is a server or a client. Further, the above-mentioned program may be one for realizing a part of the above-mentioned functions, or may be one that can realize the above-mentioned functions in combination with a program already recorded in the computer system.
- part or all of the video encoding device 11 and video decoding device 31 in the embodiments described above may be realized as an integrated circuit such as an LSI (Large Scale Integration).
- LSI Large Scale Integration
- Each functional block of the moving image encoding device 11 and the moving image decoding device 31 may be made into a processor individually, or some or all of them may be integrated into a processor.
- the method of circuit integration is not limited to LSI, but may be implemented using a dedicated circuit or a general-purpose processor. Further, if an integrated circuit technology that replaces LSI emerges due to advances in semiconductor technology, an integrated circuit based on this technology may be used.
- Embodiments of the present invention are suitably applied to a video decoding device that decodes encoded data obtained by encoding image data, and a video encoding device that generates encoded data obtained by encoding image data. be able to. Further, the present invention can be suitably applied to the data structure of encoded data generated by a video encoding device and referenced by a video decoding device. (Cross reference to related applications) This application claims priority to the Japanese patent application filed on July 5, 2022: Japanese Patent Application No. 2022-108070. Included in this book.
- Video decoding device 301 Entropy decoding section 302 Parameter decoding section 3022 CU decoding unit 3024 TU decoding section 303 Inter prediction parameter derivation unit 305, 107 Loop filter 306, 109 Reference picture memory 307, 108 Prediction parameter memory 308, 101 Predicted image generation unit 309 Inter predicted image generation unit 3092 OOB processing section 30921 OOB judgment section 30922 OOB mask derivation part 311, 105 Inverse quantization/inverse transformation section 312, 106 Adder 320 Prediction parameter derivation part 11 Video encoding device 102 Subtraction part 103 Conversion/quantization section 104 Entropy encoder 110 Encoding parameter determination unit 111 Parameter encoding section 112 Inter prediction parameter encoder 120 Prediction parameter derivation part
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
符号化効率を向上させることができる動画像符号化・復号装置を提供する。動画像復号装置は、参照ブロックの座標をピクチャの座標と比較することで、参照ブロックがOOB処理の対象であるかどうかを判定するOOB判定部と、参照ブロックが含む画素の座標をピクチャの座標と比較することで、各画素の利用可否を表すマスクデータ導出するOOBマスク導出部を備え、前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャにラップアラウンド処理が適用されているかどうかを検出して上記参照ブロックがOOB処理対象であるかどうかを判定することを特徴とし、前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに参照ピクチャリサンプリング処理が適用されているかどうかを検出して上記参照ブロックがOOB処理対象であるかどうかを判定することを特徴とする。
Description
本発明の実施形態は、動画像復号装置および動画像符号化装置に関する。
動画像を効率的に伝送または記録するために、動画像を符号化することによって符号化データを生成する動画像符号化装置、および、当該符号化データを復号することによって復号画像を生成する動画像復号装置が用いられている。
具体的な動画像符号化方式としては、例えば、H.264/AVCやHEVC(High-Efficiency Video Coding)、Versatile Video Coding (VVC)方式などが挙げられる。
このような動画像符号化方式においては、動画像を構成する画像(ピクチャ)は、画像を分割することにより得られるスライス、スライスを分割することにより得られる符号化ツリーユニット(CTU:Coding Tree Unit)、符号化ツリーユニットを分割することで得られる符号化単位(符号化ユニット(Coding Unit:CU)と呼ばれることもある)、及び、符号化単位を分割することより得られる変換ユニット(TU:Transform Unit)からなる階層構造により管理され、CU毎に符号化/復号される。
また、このような動画像符号化方式においては、通常、入力画像を符号化/復号することによって得られる局所復号画像に基づいて予測画像が生成され、当該予測画像を入力画像(原画像)から減算して得られる予測誤差(「差分画像」または「残差画像」と呼ぶこともある)が符号化される。予測画像の生成方法としては、画面間予測(インター予測)、および、画面内予測(イントラ予測)が挙げられる。VVCでは、図8(a)のように、動きベクトルの座標をラップアラウンド(wrap-around)処理して、水平方向の座標系に関しピクチャの左端と右端を連続させて動き補償することができる。従って、360度パノラマ画像や360°画像のようにピクチャの左右端が空間的に連続する映像にラップアラウンド処理を適用すると、符号化効率を向上させることができる。また、VVCでは、図8(b)のように、ピクチャ単位で解像度を変化させ動き補償する参照ピクチャリサンプリング(RPR: Reference Picture Resampling)処理が可能である。インターネット上での動画像配信のような伝送レートが変動するサービスにRPR処理を適用すると、画質を向上させることができる。
また、非特許文献1には、参照画像のピクチャ外にはみ出した双予測の一方の参照ブロックの一部あるいは全ての領域を、他方の参照ブロックの一部あるいは全ての領域で代替するOOB(Out-Of-Boundary)処理技術が開示されている。
"AHG12: Enhanced bi-directional motion compensation", Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29 25th Meeting, by teleconference, JVET-Y0125
非特許文献1においては、ラップアラウンド処理に対応するOOB判定処理がなく、ラップアラウンド処理とOOB処理を同時に適用できないという課題がある。また、ラップアラウンド処理を適用すると、図8のように参照ブロックがピクチャの左端の外側の場合、ピクチャの右側の領域を参照する。従って、水平方向の座標系はピクチャ外になることがなく、OOB処理を適用することで符号化効率が低下しうるという問題がある。また、非特許文献1においては、RPR処理に対応するOOB判定処理がなく、RPR処理とOOB処理を同時に適用できないという課題がある。RPR処理では、対象ピクチャとサイズの異なる参照ピクチャを所定のスケールで縮小して参照ピクチャバッファに保持する。これにより、参照ピクチャの座標系が対象ピクチャの座標系とは異なり、RPR処理とOOB処理を併用すると正しいOOB判定処理を行うことができないという問題がある。
上記の課題を解決するために、本発明の一態様に係る動画像復号装置は、参照ブロックの座標をピクチャの座標と比較することで、参照ブロックがOOB処理の対象であるかどうかを判定するOOB判定部と、参照ブロックが含む画素の座標をピクチャの座標と比較することで、各画素の利用可否を表すマスクデータを導出するOOBマスク導出部を備える動画像復号装置であって、
前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャにラップアラウンド処理が適用されているかどうかを検出して上記参照ブロックがOOB処理対象であるかどうかを判定することを特徴とし、
前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに参照ピクチャリサンプリング処理が適用されているかどうかを検出して上記参照ブロックがOOB処理対象であるかどうかを判定することを特徴とする。
前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャにラップアラウンド処理が適用されているかどうかを検出して上記参照ブロックがOOB処理対象であるかどうかを判定することを特徴とし、
前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに参照ピクチャリサンプリング処理が適用されているかどうかを検出して上記参照ブロックがOOB処理対象であるかどうかを判定することを特徴とする。
本発明の態様によれば、動画像符号化・復号処理においてOOB処理にかかる計算量を削減することができる。
(第1の実施形態)
以下、図面を参照しながら本発明の実施形態について説明する。
以下、図面を参照しながら本発明の実施形態について説明する。
図1は、本実施形態に係る画像伝送システム1の構成を示す概略図である。
画像伝送システム1は、対象画像を符号化した符号化ストリームを伝送し、伝送された符号化ストリームを復号し画像を表示するシステムである。画像伝送システム1は、動画像符号化装置(画像符号化装置)11、ネットワーク21、動画像復号装置(画像復号装置)31、及び動画像表示装置(画像表示装置)41を含んで構成される。
動画像符号化装置11には画像Tが入力される。
ネットワーク21は、動画像符号化装置11が生成した符号化ストリームTeを動画像復号装置31に伝送する。ネットワーク21は、インターネット(Internet)、広域ネットワーク(WAN:Wide Area Network)、小規模ネットワーク(LAN:Local Area Network)またはこれらの組み合わせである。ネットワーク21は、必ずしも双方向の通信網に限らず、地上デジタル放送、衛星放送等の放送波を伝送する一方向の通信網であっても良い。また、ネットワーク21は、DVD(Digital Versatile Disc:登録商標)、BD(Blue-ray Disc:登録商標)等の符号化ストリームTeを記録した記憶媒体で代替されても良い。
動画像復号装置31は、ネットワーク21が伝送した符号化ストリームTeのそれぞれを復号し、復号した1または複数の復号画像Tdを生成する。
動画像表示装置41は、動画像復号装置31が生成した1または複数の復号画像Tdの全部または一部を表示する。動画像表示装置41は、例えば、液晶ディスプレイ、有機EL(Electro-luminescence)ディスプレイ等の表示デバイスを備える。ディスプレイの形態としては、据え置き、モバイル、HMD等が挙げられる。また、動画像復号装置31が高い処理能力を有する場合には、画質の高い画像を表示し、より低い処理能力しか有しない場合には、高い処理能力、表示能力を必要としない画像を表示する。
<演算子>
本明細書で用いる演算子を以下に記載する。
本明細書で用いる演算子を以下に記載する。
>>は右ビットシフト、<<は左ビットシフト、&はビットワイズAND、|はビットワイズOR、|=はOR代入演算子であり、||は論理和を示す。
x?y:zは、xが真(0以外)の場合にy、xが偽(0)の場合にzをとる3項演算子である。
Clip3(a,b,c)は、cをa以上b以下の値にクリップする関数であり、c<aの場合にはaを返し、c>bの場合にはbを返し、その他の場合にはcを返す関数である(ただし、a<=b)。
ClipH(o, W, x)は、x<0の場合x、x>W-1の場合x-o、それ以外の場合xを返す関数である。
sign(a)はa>0の場合1、a==0の場合1、a<0の場合-1を返す関数である。
abs(a)はaの絶対値を返す関数である。
Int(a)はaの整数値を返す関数である。
floor(a)はa以下の最大の整数を返す関数である。
ceil(a)はa以上の最小の整数を返す関数である。
a/dはdによるaの除算(小数点以下切り捨て)を表す。
~はビットワイズの否定(not)を表わす。各ビットの0を1、1を0として返す関数である。
~はビットワイズの否定(not)を表わす。各ビットの0を1、1を0として返す関数である。
<符号化ストリームTeの構造>
本実施形態に係る動画像符号化装置11および動画像復号装置31の詳細な説明に先立って、動画像符号化装置11によって生成され、動画像復号装置31によって復号される符号化ストリームTeのデータ構造について説明する。
本実施形態に係る動画像符号化装置11および動画像復号装置31の詳細な説明に先立って、動画像符号化装置11によって生成され、動画像復号装置31によって復号される符号化ストリームTeのデータ構造について説明する。
図2は、符号化ストリームTeにおけるデータの階層構造を示す図である。符号化ストリームTeは、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。図2の(a)~(f)は、それぞれ、シーケンスSEQを既定する符号化ビデオシーケンス、ピクチャPICTを規定する符号化ピクチャ、スライスSを規定する符号化スライス、スライスデータを規定する符号化スライスデータ、符号化スライスデータに含まれる符号化ツリーユニット、符号化ツリーユニットに含まれる符号化ユニットを示す図である。
(符号化ビデオシーケンス)
符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために動画像復号装置31が参照するデータの集合が規定されている。シーケンスSEQは、図2に示すように、ビデオパラメータセット(Video Parameter Set)、シーケンスパラメータセットSPS(Sequence Parameter Set)、ピクチャパラメータセットPPS(Picture Parameter Set)、Adaptation Parameter Set(APS)、ピクチャPICT、及び、付加拡張情報SEI(Supplemental Enhancement Information)を含んでいる。
符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために動画像復号装置31が参照するデータの集合が規定されている。シーケンスSEQは、図2に示すように、ビデオパラメータセット(Video Parameter Set)、シーケンスパラメータセットSPS(Sequence Parameter Set)、ピクチャパラメータセットPPS(Picture Parameter Set)、Adaptation Parameter Set(APS)、ピクチャPICT、及び、付加拡張情報SEI(Supplemental Enhancement Information)を含んでいる。
ビデオパラメータセットVPSは、複数のレイヤから構成されている動画像において、複数の動画像に共通する符号化パラメータの集合および動画像に含まれる複数のレイヤおよび個々のレイヤに関連する符号化パラメータの集合が規定されている。
シーケンスパラメータセットSPSでは、対象シーケンスを復号するために動画像復号装置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。なお、SPSは複数存在してもよい。その場合、PPSから複数のSPSの何れかを選択する。
ピクチャパラメータセットPPSでは、対象シーケンス内の各ピクチャを復号するために動画像復号装置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値(pic_init_qp_minus26)や重み付き予測の適用を示すフラグ(weighted_pred_flag)が含まれる。なお、PPSは複数存在してもよい。その場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
(符号化ピクチャ)
符号化ピクチャでは、処理対象のピクチャPICTを復号するために動画像復号装置31が参照するデータの集合が規定されている。ピクチャPICTは、図2に示すように、スライス0~スライスNS-1を含む(NSはピクチャPICTに含まれるスライスの総数)。
符号化ピクチャでは、処理対象のピクチャPICTを復号するために動画像復号装置31が参照するデータの集合が規定されている。ピクチャPICTは、図2に示すように、スライス0~スライスNS-1を含む(NSはピクチャPICTに含まれるスライスの総数)。
なお、以下、スライス0~スライスNS-1のそれぞれを区別する必要が無い場合、符号の添え字を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
(符号化スライス)
符号化スライスでは、処理対象のスライスSを復号するために動画像復号装置31が参照するデータの集合が規定されている。スライスは、図2に示すように、スライスヘッダ、および、スライスデータを含んでいる。
符号化スライスでは、処理対象のスライスSを復号するために動画像復号装置31が参照するデータの集合が規定されている。スライスは、図2に示すように、スライスヘッダ、および、スライスデータを含んでいる。
スライスヘッダには、対象スライスの復号方法を決定するために動画像復号装置31が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報(slice_type)は、スライスヘッダに含まれる符号化パラメータの一例である。
スライスタイプ指定情報により指定可能なスライスタイプとしては、(1)符号化の際にイントラ予測のみを用いるIスライス、(2)符号化の際に単方向予測、または、イントラ予測を用いるPスライス、(3)符号化の際に単方向予測、双方向予測、または、イントラ予測を用いるBスライスなどが挙げられる。なお、インター予測は、単予測、双予測に限定されず、より多くの参照ピクチャを用いて予測画像を生成してもよい。以下、P、Bスライスと呼ぶ場合には、インター予測を用いることができるブロックを含むスライスを指す。
なお、スライスヘッダは、ピクチャパラメータセットPPSへの参照(pic_parameter_set_id)を含んでいても良い。
(符号化スライスデータ)
符号化スライスデータでは、処理対象のスライスデータを復号するために動画像復号装置31が参照するデータの集合が規定されている。スライスデータは、図2(d)に示すように、CTUを含んでいる。CTUは、スライスを構成する固定サイズ(例えば64x64)のブロックであり、最大符号化単位(LCU:Largest Coding Unit)と呼ぶこともある。
符号化スライスデータでは、処理対象のスライスデータを復号するために動画像復号装置31が参照するデータの集合が規定されている。スライスデータは、図2(d)に示すように、CTUを含んでいる。CTUは、スライスを構成する固定サイズ(例えば64x64)のブロックであり、最大符号化単位(LCU:Largest Coding Unit)と呼ぶこともある。
(符号化ツリーユニット)
図2には、処理対象のCTUを復号するために動画像復号装置31が参照するデータの集合が規定されている。CTUは、再帰的な4分木分割(QT(Quad Tree)分割)、2分木分割(BT(Binary Tree)分割)あるいは3分木分割(TT(Ternary Tree)分割)により、符号化処理の基本的な単位である符号化ユニットCUに分割される。BT分割とTT分割を合わせてマルチツリー分割(MT(Multi Tree)分割)と呼ぶ。再帰的な4分木分割により得られる木構造のノードのことを符号化ノード(Coding Node)と称する。4分木、2分木、及び3分木の中間ノードは、符号化ノードであり、CTU自身も最上位の符号化ノードとして規定される。また、最下位の符号化ノードは符号化ユニットとして規定される。
図2には、処理対象のCTUを復号するために動画像復号装置31が参照するデータの集合が規定されている。CTUは、再帰的な4分木分割(QT(Quad Tree)分割)、2分木分割(BT(Binary Tree)分割)あるいは3分木分割(TT(Ternary Tree)分割)により、符号化処理の基本的な単位である符号化ユニットCUに分割される。BT分割とTT分割を合わせてマルチツリー分割(MT(Multi Tree)分割)と呼ぶ。再帰的な4分木分割により得られる木構造のノードのことを符号化ノード(Coding Node)と称する。4分木、2分木、及び3分木の中間ノードは、符号化ノードであり、CTU自身も最上位の符号化ノードとして規定される。また、最下位の符号化ノードは符号化ユニットとして規定される。
(符号化ユニット)
図2は、処理対象の符号化ユニットを復号するために動画像復号装置31が参照するデータの集合が規定されている。具体的には、CUは、CUヘッダCUH、予測パラメータ、変換パラメータ、量子化変換係数等から構成される。CUヘッダでは予測モード等が規定される。
図2は、処理対象の符号化ユニットを復号するために動画像復号装置31が参照するデータの集合が規定されている。具体的には、CUは、CUヘッダCUH、予測パラメータ、変換パラメータ、量子化変換係数等から構成される。CUヘッダでは予測モード等が規定される。
予測処理は、CU単位で行われる場合と、CUをさらに分割したサブCU単位で行われる場合がある。CUとサブCUのサイズが等しい場合には、CU中のサブCUは1つである。CUがサブCUのサイズよりも大きい場合、CUはサブCUに分割される。たとえばCUが8x8、サブCUが4x4の場合、CUは水平2分割、垂直2分割からなる、4つのサブCUに分割される。
予測の種類(予測モード)は、イントラ予測(MODE_INTRA)と、インター予測(MODE_INTER)、イントラブロックコピー(MODE_IBC)がある。イントラ予測は、同一ピクチャ内の予測であり、インター予測は、互いに異なるピクチャ間(例えば、表示時刻間、レイヤ画像間)で行われる予測処理を指す。
変換・量子化処理はCU単位で行われるが、量子化変換係数は4x4等のサブブロック単位でエントロピー符号化してもよい。
(予測パラメータ)
予測画像は、ブロックに付随する予測パラメータによって導出される。予測パラメータには、イントラ予測とインター予測の予測パラメータがある。
予測画像は、ブロックに付随する予測パラメータによって導出される。予測パラメータには、イントラ予測とインター予測の予測パラメータがある。
(インター予測の予測パラメータ)
インター予測の予測パラメータについて説明する。インター予測パラメータは、予測リスト利用フラグpredFlagL0とpredFlagL1、参照ピクチャインデックスrefIdxL0とrefIdxL1、動きベクトルmvL0とmvL1から構成される。predFlagL0、predFlagL1は、参照ピクチャリスト(L0リスト、L1リスト)が用いられるか否かを示すフラグであり、値が1の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「XXであるか否かを示すフラグ」と記す場合、フラグが0以外(たとえば1)をXXである場合、0をXXではない場合とし、論理否定、論理積などでは1を真、0を偽と扱う(以下同様)。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。
インター予測の予測パラメータについて説明する。インター予測パラメータは、予測リスト利用フラグpredFlagL0とpredFlagL1、参照ピクチャインデックスrefIdxL0とrefIdxL1、動きベクトルmvL0とmvL1から構成される。predFlagL0、predFlagL1は、参照ピクチャリスト(L0リスト、L1リスト)が用いられるか否かを示すフラグであり、値が1の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「XXであるか否かを示すフラグ」と記す場合、フラグが0以外(たとえば1)をXXである場合、0をXXではない場合とし、論理否定、論理積などでは1を真、0を偽と扱う(以下同様)。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。
インター予測パラメータを導出するためのシンタックス要素には、例えば、マージフラグmerge_flag(general_merge_flag)、マージインデックスmerge_idx、merge_subblock_flag、regulare_merge_flag、ciip_flag、merge_gpm_partition_idx、merge_gpm_idx0、merge_gpm_idx1、inter_pred_idc、参照ピクチャインデックスrefIdxLX、mvp_LX_idx、差分ベクトルmvdLX、動きベクトル精度モードamvr_modeがある。merge_subblock_flagはサブブロック単位のインター予測を用いるかを示すフラグである。regulare_merge_flagは通常マージモードあるいはMMVDが使われるかを示すフラグである。ciip_flagはCIIP(combined inter-picture merge and intra-picture prediction)モードを用いるか否かを示すフラグである。merge_gpm_partition_idxはGPMモードの分割形状を示すインデックスである。merge_gpm_idx0、merge_gpm_idx1はGPMモードのマージインデックスを示すインデックスである。inter_pred_idcはAMVPモードで用いる参照ピクチャを選択するためのインター予測識別子である。mvp_LX_idxは動きベクトルを導出するための予測ベクトルインデックスである。
(参照ピクチャリスト)
参照ピクチャリストは、参照ピクチャメモリ306に記憶された参照ピクチャからなるリストである。個々のCUでは、参照ピクチャリストRefPicListX(X=0または1)中のどのピクチャを実際に参照するかをrefIdxLXで指定する。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、以降では、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する。
参照ピクチャリストは、参照ピクチャメモリ306に記憶された参照ピクチャからなるリストである。個々のCUでは、参照ピクチャリストRefPicListX(X=0または1)中のどのピクチャを実際に参照するかをrefIdxLXで指定する。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、以降では、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する。
(マージ予測とAMVP予測)
予測パラメータの復号(符号化)方法には、マージ予測(merge)モード(マージモード)とAMVP(Advanced Motion Vector Prediction、適応動きベクトル予測)モードがあり、general_merge_flagは、これらを識別するためのフラグである。マージモードは、動きベクトル差分の一部もしくは全てを省略する予測モードであり、予測リスト利用フラグpredFlagLX、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めずに、既に処理した近傍ブロックの予測パラメータ等から導出するモードである。AMVPモードは、inter_pred_idc、refIdxLX、mvLXを符号化データに含めるモードである。なお、mvLXは、予測ベクトルmvpLXを識別するmvp_LX_idxと差分ベクトルmvdLXとして符号化される。また動きベクトル差分を省略・簡素化する予測モードの総称を一般マージモード(general merge mode)と呼び、general_merge_flagにより一般マージモードとAMVP予測を選択してもよい。
予測パラメータの復号(符号化)方法には、マージ予測(merge)モード(マージモード)とAMVP(Advanced Motion Vector Prediction、適応動きベクトル予測)モードがあり、general_merge_flagは、これらを識別するためのフラグである。マージモードは、動きベクトル差分の一部もしくは全てを省略する予測モードであり、予測リスト利用フラグpredFlagLX、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めずに、既に処理した近傍ブロックの予測パラメータ等から導出するモードである。AMVPモードは、inter_pred_idc、refIdxLX、mvLXを符号化データに含めるモードである。なお、mvLXは、予測ベクトルmvpLXを識別するmvp_LX_idxと差分ベクトルmvdLXとして符号化される。また動きベクトル差分を省略・簡素化する予測モードの総称を一般マージモード(general merge mode)と呼び、general_merge_flagにより一般マージモードとAMVP予測を選択してもよい。
general_merge_flagが1の場合、別途regular_merge_flagを伝送してもよい。regular_merge_flagが1である場合に、通常マージモードもしくはMMVDを選択し、それ以外の場合にCIIPモードもしくはGPMモードを選択してもよい。CIIPモードはインター予測画像とイントラ予測画像の重み付け和により予測画像を生成する。GPMモードは、対象CUを線分で分割される2つの非矩形の予測単位として、予測画像を生成する。
inter_pred_idcは、参照ピクチャの種類および数を示す値であり、PRED_L0、PRED_L1、PRED_BIの何れかの値をとる。PRED_L0、PRED_L1は、各々L0リスト、L1リストで管理された1枚の参照ピクチャを用いる単予測を示す。PRED_BIはL0リストとL1リストで管理された2枚の参照ピクチャを用いる双予測を示す。
merge_idxは、処理が完了したブロックから導出される予測パラメータ候補(マージ候補)のうち、いずれの予測パラメータを対象ブロックの予測パラメータとして用いるかを示すインデックスである。
(動きベクトル)
mvLXは、異なる2つのピクチャ上のブロック間のシフト量を示す。mvLXに関する予測ベクトル、差分ベクトルを、それぞれmvpLX、mvdLXと呼ぶ。
mvLXは、異なる2つのピクチャ上のブロック間のシフト量を示す。mvLXに関する予測ベクトル、差分ベクトルを、それぞれmvpLX、mvdLXと呼ぶ。
(インター予測識別子inter_pred_idcと予測リスト利用フラグpredFlagLX)
inter_pred_idcと、predFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
inter_pred_idcと、predFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
inter_pred_idc = (predFlagL1<<1)+predFlagL0
predFlagL0 = inter_pred_idc & 1
predFlagL1 = inter_pred_idc >> 1
なお、インター予測パラメータは、予測リスト利用フラグを用いても良いし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
predFlagL0 = inter_pred_idc & 1
predFlagL1 = inter_pred_idc >> 1
なお、インター予測パラメータは、予測リスト利用フラグを用いても良いし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
(双予測biPredの判定)
双予測であるかのフラグbiPredは、2つの予測リスト利用フラグがともに1であるかによって導出できる。。例えば以下の式で導出できる。
双予測であるかのフラグbiPredは、2つの予測リスト利用フラグがともに1であるかによって導出できる。。例えば以下の式で導出できる。
biPred = (predFlagL0==1 && predFlagL1==1)
あるいは、biPredは、インター予測識別子が2つの予測リスト(参照ピクチャ)を使うことを示す値であるか否かによっても導出できる。例えば以下の式で導出できる。
あるいは、biPredは、インター予測識別子が2つの予測リスト(参照ピクチャ)を使うことを示す値であるか否かによっても導出できる。例えば以下の式で導出できる。
biPred = (inter_pred_idc==PRED_BI) ? 1 : 0
(動画像復号装置の構成)
本実施形態に係る動画像復号装置31(図3)の構成について説明する。
(動画像復号装置の構成)
本実施形態に係る動画像復号装置31(図3)の構成について説明する。
動画像復号装置31は、エントロピー復号部301、パラメータ復号部(予測画像復号装置)302、ループフィルタ305、参照ピクチャメモリ306、予測パラメータメモリ307、予測画像生成部(予測画像生成装置)308、逆量子化・逆変換部311、及び加算部312、予測パラメータ導出部320を含んで構成される。なお、後述の動画像符号化装置11に合わせ、動画像復号装置31にループフィルタ305が含まれない構成もある。
パラメータ復号部302は、さらに、ヘッダ復号部3020、CT情報復号部3021、及びCU復号部3022(予測モード復号部)を備えており、CU復号部3022はさらにTU復号部3024を備えている。これらを総称して復号モジュールと呼んでもよい。ヘッダ復号部3020は、符号化データからVPS、SPS、PPS、APSなどのパラメータセット情報、スライスヘッダ(スライス情報)を復号する。CT情報復号部3021は、符号化データからCTを復号する。CU復号部3022は符号化データからCUを復号する。TU復号部3024は符号化データからCUを復号する。
TU復号部3024は、TUに予測誤差が含まれている場合、符号化データからQP更新情報と量子化変換係数を復号する。QP更新情報は、量子化パラメータQPの予測値である量子化パラメータ予測値qPpredからの差分値である。
予測画像生成部308は、インター予測画像生成部309(図4)及びイントラ予測画像生成部310を含んで構成される。
予測パラメータ導出部320は、インター予測パラメータ導出部303(図5)及びイントラ予測パラメータ導出部を含んで構成される。
また、以降では処理の単位としてCTU、CUを使用した例を記載するが、この例に限らず、サブCU単位で処理をしてもよい。あるいはCTU、CUをブロック、サブCUをサブブロックと読み替え、ブロックあるいはサブブロック単位の処理としてもよい。
エントロピー復号部301は、外部から入力された符号化ストリームTeに対してエントロピー復号を行って、個々の符号(シンタックス要素)を復号する。エントロピー符号化には、シンタックス要素の種類や周囲の状況に応じて適応的に選択したコンテキスト(確率モデル)を用いてシンタックス要素を可変長符号化する方式と、あらかじめ定められた表、あるいは計算式を用いてシンタックス要素を可変長符号化する方式がある。
エントロピー復号部301は、復号した符号をパラメータ復号部302に出力する。復号した符号とは、例えば、予測モードpredMode、general_merge_flag、merge_idx、inter_pred_idc、refIdxLX、mvp_LX_idx、mvdLX、amvr_mode等である。どの符号を復号するかの制御は、パラメータ復号部302の指示に基づいて行われる。
(基本フロー)
図6は、動画像復号装置31の概略的動作を説明するフローチャートである。
図6は、動画像復号装置31の概略的動作を説明するフローチャートである。
(S1100:パラメータセット情報復号)ヘッダ復号部3020は、符号化データからVPS、SPS、PPSなどのパラメータセット情報を復号する。
(S1200:スライス情報復号)ヘッダ復号部3020は、符号化データからスライスヘッダ(スライス情報)を復号する。
以下、動画像復号装置31は、対象ピクチャに含まれる各CTUについて、S1300からS5000の処理を繰り返すことにより各CTUの復号画像を導出する。
(S1300:CTU情報復号)CT情報復号部3021は、符号化データからCTUを復号する。
(S1400:CT情報復号)CT情報復号部3021は、符号化データからCTを復号する。
(S1500:CU復号)CU復号部3022はS1510、S1520を実施して、符号化データからCUを復号する。
(S1510:CU情報復号)CU復号部3022は、符号化データからCU情報、予測情報、TU分割フラグ、CU残差フラグ等を復号する。
(S1520:TU情報復号)TU復号部3024は、TUに予測誤差が含まれている場合に、符号化データから量子化予測誤差等を復号する。
(S2000:予測画像生成)予測画像生成部308は、対象CUに含まれる各ブロックについて、予測情報に基づいて予測画像を生成する。
(S3000:逆量子化・逆変換)逆量子化・逆変換部311は、対象CUに含まれる各TUについて、逆量子化・逆変換処理を実行する。
(S4000:復号画像生成)加算部312は、予測画像生成部308より供給される予測画像と、逆量子化・逆変換部311より供給される予測誤差とを加算することによって、対象CUの復号画像を生成する。
(S5000:ループフィルタ)ループフィルタ305は、復号画像にデブロッキングフィルタ、SAO、ALFなどのループフィルタをかけ、復号画像を生成する。
ループフィルタ305は、符号化ループ内に設けたフィルタで、ブロック歪やリンギング歪を除去し、画質を改善するフィルタである。ループフィルタ305は、加算部312が生成したCUの復号画像に対し、デブロッキングフィルタ、サンプル適応オフセット(SAO)、適応ループフィルタ(ALF)等のフィルタを施す。
参照ピクチャメモリ306は、加算部312が生成したCUの復号画像を、対象ピクチャ及び対象CU毎に予め定めた位置に記憶する。
予測パラメータメモリ307は、復号対象のCTUあるいはCU毎に予め定めた位置に予測パラメータを記憶する。具体的には、予測パラメータメモリ307は、パラメータ復号部302が復号したパラメータ及びエントロピー復号部301が分離した予測モードpredMode等を記憶する。
予測画像生成部308には、predMode、予測パラメータ等が入力される。また、予測画像生成部308は、参照ピクチャメモリ306から参照ピクチャを読み出す。予測画像生成部308は、predModeが示す予測モードで、予測パラメータと読み出した参照ピクチャ(参照ブロック)を用いてブロックもしくはサブブロックの予測画像を生成する。ここで、参照ブロックとは、参照ピクチャ上の画素の集合(通常矩形であるのでブロックと呼ぶ)であり、予測画像を生成するために参照する領域である。
(インター予測パラメータ導出部の構成)
図5に示すように、インター予測パラメータ導出部303は、パラメータ復号部302から入力されたシンタックス要素に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してインター予測パラメータを導出する。また、インター予測パラメータをインター予測画像生成部309、予測パラメータメモリ307に出力する。インター予測パラメータ導出部303及びその内部の要素であるAMVP予測パラメータ導出部3032、マージ予測パラメータ導出部3036、MMVD予測部30376、MV加算部3038は、動画像符号化装置、動画像復号装置で共通する手段であるので、これらを総称して動きベクトル導出部(動きベクトル導出装置)と称してもよい。
図5に示すように、インター予測パラメータ導出部303は、パラメータ復号部302から入力されたシンタックス要素に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してインター予測パラメータを導出する。また、インター予測パラメータをインター予測画像生成部309、予測パラメータメモリ307に出力する。インター予測パラメータ導出部303及びその内部の要素であるAMVP予測パラメータ導出部3032、マージ予測パラメータ導出部3036、MMVD予測部30376、MV加算部3038は、動画像符号化装置、動画像復号装置で共通する手段であるので、これらを総称して動きベクトル導出部(動きベクトル導出装置)と称してもよい。
general_merge_flagが1、すなわち、マージ予測モードを示す場合、merge_idxを導出し、マージ予測パラメータ導出部3036に出力する。
general_merge_flagが0、すなわち、AMVP予測モードを示す場合、AMVP予測パラメータ導出部3032はinter_pred_idc、refIdxLXかmvp_LX_idxからmvpLXを導出する。
(MV加算部)
MV加算部3038では導出されたmvpLXとmvdLXを加算し、mvLXを導出する。
MV加算部3038では導出されたmvpLXとmvdLXを加算し、mvLXを導出する。
(マージ予測)
マージ予測パラメータ導出部3036は、予測パラメータ(predFlagLX、mvLX、refIdxLX)を含んで構成されるマージ候補を導出し、マージ候補リストを構成する。さらにマージ予測パラメータ導出部3036は、マージ候補リストに含まれるマージ候補のうち、merge_idxが示すマージ候補Nの動き情報(mvLXN[0], mvLXN[1])、predFlagLXN、refIdxLXNを対象ブロックのインター予測パラメータとして選択する。マージ予測パラメータ導出部3036は選択したマージ候補のインター予測パラメータを予測パラメータメモリ307に記憶するとともに、インター予測画像生成部309に出力する。
マージ予測パラメータ導出部3036は、予測パラメータ(predFlagLX、mvLX、refIdxLX)を含んで構成されるマージ候補を導出し、マージ候補リストを構成する。さらにマージ予測パラメータ導出部3036は、マージ候補リストに含まれるマージ候補のうち、merge_idxが示すマージ候補Nの動き情報(mvLXN[0], mvLXN[1])、predFlagLXN、refIdxLXNを対象ブロックのインター予測パラメータとして選択する。マージ予測パラメータ導出部3036は選択したマージ候補のインター予測パラメータを予測パラメータメモリ307に記憶するとともに、インター予測画像生成部309に出力する。
(インター予測画像生成部309)
predModeがインター予測を示す場合、インター予測画像生成部309は、インター予測パラメータ導出部303から入力されたインター予測パラメータと参照ピクチャを用いてインター予測によりブロックもしくはサブブロックの予測画像を生成する。
predModeがインター予測を示す場合、インター予測画像生成部309は、インター予測パラメータ導出部303から入力されたインター予測パラメータと参照ピクチャを用いてインター予測によりブロックもしくはサブブロックの予測画像を生成する。
図4は、本実施形態に係る予測画像生成部308に含まれるインター予測画像生成部309の構成を示す概略図である。インター予測画像生成部309は、動き補償部(予測画像生成装置)3091、OOB処理部3092、合成部3095を含んで構成される。合成部3095は、重み予測部3094を含んで構成される。
(動き補償)
動き補償部3091(補間画像生成部3091)は、インター予測パラメータ導出部303から入力された、インター予測パラメータ(predFlagLX、refIdxLX、mvLX)に基づいて、参照ピクチャメモリ306から参照ブロックを読み出すことによって補間画像(動き補償画像)を生成する。参照ブロックは、refIdxLXで指定された参照ピクチャRefPicLX上で、対象ブロックの位置からmvLXシフトした位置のブロックである。ここで、mvLXが整数精度でない場合には、動き補償フィルタと呼ばれる小数位置の画素を生成するためのフィルタを施して、補間画像を生成する。
動き補償部3091(補間画像生成部3091)は、インター予測パラメータ導出部303から入力された、インター予測パラメータ(predFlagLX、refIdxLX、mvLX)に基づいて、参照ピクチャメモリ306から参照ブロックを読み出すことによって補間画像(動き補償画像)を生成する。参照ブロックは、refIdxLXで指定された参照ピクチャRefPicLX上で、対象ブロックの位置からmvLXシフトした位置のブロックである。ここで、mvLXが整数精度でない場合には、動き補償フィルタと呼ばれる小数位置の画素を生成するためのフィルタを施して、補間画像を生成する。
動き補償部3091は、bW*bHサイズのブロックの左上座標(xPb,yPb)、予測ブロック内座標(xL,yL)、動きベクトル(mvLX[0],mvLX[1])に対応する整数位置(xInt,yInt)および位相(xFrac,yFrac)を以下の式で導出する(MC-P1)。
xInt = xPb+(mvLX[0]>>(log2(MVPREC)))+xL
xFrac = mvLX[0]&(MVPREC-1)
yInt = yPb+(mvLX[1]>>(log2(MVPREC)))+yL
yFrac = mvLX[1]&(MVPREC-1)
ここで、MVPRECはmvLXの精度(1/MVPREC画素精度)、log2MVPREC=(log2(MVPREC))、x=0…bW-1、y=0…bH-1を示す。例えばMVPREC=16であってもよい。
なお、RPRを行うために、後述の(MC-P2)のように導出してよい。さらに、(MC-P1)、(MC-P2)で導出された(xInt,yInt)に対して、動き補償部3091は、ラップアラウンドのために位置を修正してもよい。
サブピクチャ境界をピクチャ境界とするフラグが有効である場合(sps_subpic_treated_as_pic_flag == 1)かつ、参照画像のサブピクチャの数が1より大きい場合(参照画像refPicLXのためのsps_num_subpics_minus1 > 0)
xInt = Clip3( SubpicLeftBoundaryPos, SubpicRightBoundaryPos, refWraparoundEnabledFlag ? ClipH( ( PpsRefWraparoundOffset ) * MinCbSizeY, picW, xInt ) : xInt )
yInt = Clip3( SubpicTopBoundaryPos, SubpicBotBoundaryPos, yInt )
ここで、SubpicLeftBoundaryPos、SubpicRightBoundaryPos、SubpicTopBoundaryPos、SubpicBottomBoundaryPosは、各々サブピクチャの左、右、上、下の境界位置。
上記以外の場合(サブピクチャ境界をピクチャ境界とするフラグが無効である場合(sps_subpic_treated_as_pic_flag == 0)もしくは、参照画像のサブピクチャの数が1の場合(参照画像refPicLXのためのsps_num_subpics_minus1 == 0)
xInt = Clip3( 0, picW ? 1, refWraparoundEnabledFlag ? ClipH( ( PpsRefWraparoundOffset ) * MinCbSizeY, picW, xInt ) : xInt )
yInt = Clip3( 0, picH ? 1, yInt )
ここで、refWraparoundEnabledFlag = pps_ref_wraparound_enabled_flag && !refPicIsScaled、PpsRefWraparoundOffset= pps_pic_width_in_luma_samples / MinCbSizeY ? pps_pic_width_minus_wraparound_offset。MinCbSizeYは所定の定数もしくは変数(たとえば4)、pps_pic_width_minus_wraparound_offsetはラップアラウンドの位置を示す符号化データから復号されるオフセット。
xFrac = mvLX[0]&(MVPREC-1)
yInt = yPb+(mvLX[1]>>(log2(MVPREC)))+yL
yFrac = mvLX[1]&(MVPREC-1)
ここで、MVPRECはmvLXの精度(1/MVPREC画素精度)、log2MVPREC=(log2(MVPREC))、x=0…bW-1、y=0…bH-1を示す。例えばMVPREC=16であってもよい。
なお、RPRを行うために、後述の(MC-P2)のように導出してよい。さらに、(MC-P1)、(MC-P2)で導出された(xInt,yInt)に対して、動き補償部3091は、ラップアラウンドのために位置を修正してもよい。
サブピクチャ境界をピクチャ境界とするフラグが有効である場合(sps_subpic_treated_as_pic_flag == 1)かつ、参照画像のサブピクチャの数が1より大きい場合(参照画像refPicLXのためのsps_num_subpics_minus1 > 0)
xInt = Clip3( SubpicLeftBoundaryPos, SubpicRightBoundaryPos, refWraparoundEnabledFlag ? ClipH( ( PpsRefWraparoundOffset ) * MinCbSizeY, picW, xInt ) : xInt )
yInt = Clip3( SubpicTopBoundaryPos, SubpicBotBoundaryPos, yInt )
ここで、SubpicLeftBoundaryPos、SubpicRightBoundaryPos、SubpicTopBoundaryPos、SubpicBottomBoundaryPosは、各々サブピクチャの左、右、上、下の境界位置。
上記以外の場合(サブピクチャ境界をピクチャ境界とするフラグが無効である場合(sps_subpic_treated_as_pic_flag == 0)もしくは、参照画像のサブピクチャの数が1の場合(参照画像refPicLXのためのsps_num_subpics_minus1 == 0)
xInt = Clip3( 0, picW ? 1, refWraparoundEnabledFlag ? ClipH( ( PpsRefWraparoundOffset ) * MinCbSizeY, picW, xInt ) : xInt )
yInt = Clip3( 0, picH ? 1, yInt )
ここで、refWraparoundEnabledFlag = pps_ref_wraparound_enabled_flag && !refPicIsScaled、PpsRefWraparoundOffset= pps_pic_width_in_luma_samples / MinCbSizeY ? pps_pic_width_minus_wraparound_offset。MinCbSizeYは所定の定数もしくは変数(たとえば4)、pps_pic_width_minus_wraparound_offsetはラップアラウンドの位置を示す符号化データから復号されるオフセット。
動き補償部3091は、参照ピクチャrefImgに補間フィルタを用いて水平補間処理を行うことで、一時的画像temp[][]を導出する。以下のΣはk=0..NTAP-1のkに関する和、mcFilter[Frac][k]は位相Fracにおけるk番目の補間フィルタ係数であり、shift1は値のレンジを調整する正規化パラメータ、offset1=1<<(shift1-1)である。
temp[x][y] = (ΣmcFilter[xFrac][k]*refImg[xInt+k-NTAP/2+1][yInt]+offset1)>>shift1
続いて、動き補償部3091は、一時的画像temp[][]を垂直補間処理により、補間画像Pred[][]を導出する。以下のΣはk=0..NTAP-1のkに関する和、shift2は値のレンジを調整する正規化パラメータ、offset2=1<<(shift2-1)である。
続いて、動き補償部3091は、一時的画像temp[][]を垂直補間処理により、補間画像Pred[][]を導出する。以下のΣはk=0..NTAP-1のkに関する和、shift2は値のレンジを調整する正規化パラメータ、offset2=1<<(shift2-1)である。
Pred[x][y] = (ΣmcFilter[yFrac][k]*temp[x][y+k-NTAP/2+1]+offset2)>>shift2 (式MC-1)
(ピクチャ範囲外(OOB)処理)
OOB処理部3092はOOB判定部30921およびOOBマスク導出部30922を含む。OOB判定部30921は、インター予測パラメータ導出部303から入力された、インター予測パラメータ(predFlagLX、refIdxLX、mvLX)に基づいて、双予測モードの各参照ブロックが参照ピクチャの範囲外(OOB: Out-Of-Bouondary)の領域を含むかどうかを判定する。
(ピクチャ範囲外(OOB)処理)
OOB処理部3092はOOB判定部30921およびOOBマスク導出部30922を含む。OOB判定部30921は、インター予測パラメータ導出部303から入力された、インター予測パラメータ(predFlagLX、refIdxLX、mvLX)に基づいて、双予測モードの各参照ブロックが参照ピクチャの範囲外(OOB: Out-Of-Bouondary)の領域を含むかどうかを判定する。
図9を参照して説明する。
OOB判定部30921が、参照ブロックの一部の画素がピクチャ外である、すなわち、参照ブロックがOOBであると判定した場合(isOOB==true、S1002)、OOBマスク導出部30922は、参照ブロックのどの領域が範囲外であるかを示すマスクデータ(マスク値、OOBマスク)を導出する(S1004)。インター予測画像生成部309は、OOBである参照ブロックに対し、OOBマスクを適用して予測画像を生成する(S1006)。インター予測画像生成部309は、OOBではない参照ブロックに対し、通常の予測画像を生成する(S1008)。以下で詳細を説明する。
OOB判定部30921が、参照ブロックの一部の画素がピクチャ外である、すなわち、参照ブロックがOOBであると判定した場合(isOOB==true、S1002)、OOBマスク導出部30922は、参照ブロックのどの領域が範囲外であるかを示すマスクデータ(マスク値、OOBマスク)を導出する(S1004)。インター予測画像生成部309は、OOBである参照ブロックに対し、OOBマスクを適用して予測画像を生成する(S1006)。インター予測画像生成部309は、OOBではない参照ブロックに対し、通常の予測画像を生成する(S1008)。以下で詳細を説明する。
(OOB判定処理)
OOB判定部30921は、双予測において、2つ(第1および第2)の参照ブロックに対し、各参照ブロックの少なくとも一部の画素がピクチャ外(OOB)であるかどうかを判定する。参照画像refLXに対応するLX参照ブロック(X=0または1)の領域は、ブロック左上座標(xRefLX,yRefLX)とブロックサイズ(幅および高さ:bW,bH)で表される。ピクチャの幅と高さをそれぞれpicW,picHとする。なお、以下では、mvLXの精度MVPRECに応じてmvLXを整数化した値を座標系に用いる。これらの値を用いて、OOB判定部30921は、次式によりLX参照ブロックがピクチャ外かどうかを表す真理値isOOB[X]を導出する。
OOB判定部30921は、双予測において、2つ(第1および第2)の参照ブロックに対し、各参照ブロックの少なくとも一部の画素がピクチャ外(OOB)であるかどうかを判定する。参照画像refLXに対応するLX参照ブロック(X=0または1)の領域は、ブロック左上座標(xRefLX,yRefLX)とブロックサイズ(幅および高さ:bW,bH)で表される。ピクチャの幅と高さをそれぞれpicW,picHとする。なお、以下では、mvLXの精度MVPRECに応じてmvLXを整数化した値を座標系に用いる。これらの値を用いて、OOB判定部30921は、次式によりLX参照ブロックがピクチャ外かどうかを表す真理値isOOB[X]を導出する。
図10に一例を示す。図10は整数単位の図であり、動きベクトルmvLX'、参照画素位置(xRefLX',yRefLX')は動きベクトルmvLX、参照画素位置(xRefLX,yRefLX)を整数表現したパラメータである。
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) - 1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) - 1) >= picMaxY)
picMinX, picMinY, picMaxX, picMaxYはmvLXの精度で表現したピクチャの最小座標と最大座標である。log2MVPRECビット左シフト("<<log2MVPREC")をMVPRECとの乗算("*MVPREC")で処理してもよいし、後述の"*MVPREC"を"<<log2MVPREC"で処理してもよい。
<構成例1>
本構成例のOOB判定部30921は、対象ピクチャにおいてラップアラウンド処理が適用されているかどうかの判定を含めて、対象ブロックがOOB処理の対象であるかどうかを判定する。同様に、参照ブロックが含まれる参照ピクチャに適用されるラップアラウンド処理の有無を用いて上記参照ブロックがOOB処理対象であるかどうかの判定をしてもよい。PPSで通知されるシンタクス要素pps_ref_wraparound_enabled_flagは、水平方向のラップアラウンド動き補償が利用可能か否かを示すフラグである。pps_ref_wraparound_enabled_flagが真(1)であれば、対象ピクチャにおいて参照ピクチャのラップアラウンド処理が適用されている(有効である)ことを示す。ラップアラウンド処理が有効なとき、OOB判定部30921はisOOB[X]=falseと設定する。
if (pps_ref_wraparound_enabled_flag == true) {
isOOB[X] = false
} else {
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) - 1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) - 1) >= picMaxY)
picMinX, picMinY, picMaxX, picMaxYはmvLXの精度で表現したピクチャの最小座標と最大座標である。log2MVPRECビット左シフト("<<log2MVPREC")をMVPRECとの乗算("*MVPREC")で処理してもよいし、後述の"*MVPREC"を"<<log2MVPREC"で処理してもよい。
<構成例1>
本構成例のOOB判定部30921は、対象ピクチャにおいてラップアラウンド処理が適用されているかどうかの判定を含めて、対象ブロックがOOB処理の対象であるかどうかを判定する。同様に、参照ブロックが含まれる参照ピクチャに適用されるラップアラウンド処理の有無を用いて上記参照ブロックがOOB処理対象であるかどうかの判定をしてもよい。PPSで通知されるシンタクス要素pps_ref_wraparound_enabled_flagは、水平方向のラップアラウンド動き補償が利用可能か否かを示すフラグである。pps_ref_wraparound_enabled_flagが真(1)であれば、対象ピクチャにおいて参照ピクチャのラップアラウンド処理が適用されている(有効である)ことを示す。ラップアラウンド処理が有効なとき、OOB判定部30921はisOOB[X]=falseと設定する。
if (pps_ref_wraparound_enabled_flag == true) {
isOOB[X] = false
} else {
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
isOOB[X] = (pps_ref_wraparound_enabled_flag == false) &&
((xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY))
上記の例ではpps_ref_wraparound_enabled_flagを用いてラップアラウンド処理の有無を判定しているが、これに限らない。対象ピクチャにおけるラップアラウンド処理の有無を用いて導出される他の変数や関数の値、例えばrefWraparoundEnabledFlagを用いてもよい(下記構成も同様)。
((xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY))
上記の例ではpps_ref_wraparound_enabled_flagを用いてラップアラウンド処理の有無を判定しているが、これに限らない。対象ピクチャにおけるラップアラウンド処理の有無を用いて導出される他の変数や関数の値、例えばrefWraparoundEnabledFlagを用いてもよい(下記構成も同様)。
上記構成によれば、OOB処理が不適切なラップアラウンド処理による符号化効率の低下を妨ぎ、予測画像生成における計算量の増加を抑制するという効果を奏する。
<構成例2>
OOB判定部30921は、対象ピクチャにおいてラップアラウンド処理が適用されているかどうかで、OOB判定方法を変更してもよい。同様に、参照ブロックが含まれる参照ピクチャに適用されるラップアラウンド処理の有無を用いて上記参照ブロックがOOB処理対象であるかどうかの判定をしてもよい。例えばVVCにおけるラップアラウンド処理は水平方向に限られることから、ラップアラウンド処理が有効な場合には、例えば以下のようにラップアラウンド処理の対象外である垂直方向の座標のみを比較してisOOB[X]を導出する。そうではなく、ラップアラウンド処理が無効な場合には、垂直方向、水平方向の両方の座標を比較してisOOB[X]を導出する(X=0,1)。
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
if (pps_ref_wraparound_enabled_flag == true) {
isOOB[X] = (yRefLX <= picMinY) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
} else {
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
isOOB[X] = ((pps_ref_wraparound_enabled_flag == false) &&
((xRefLX <= picMinX) ||
((xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX <= picMinY) ||
((yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)))
上記構成によれば、ラップアラウンド処理有効時にもOOB処理を併用し、符号化効率の向上が可能であるという効果を奏する。
OOB判定部30921は、対象ピクチャにおいてラップアラウンド処理が適用されているかどうかで、OOB判定方法を変更してもよい。同様に、参照ブロックが含まれる参照ピクチャに適用されるラップアラウンド処理の有無を用いて上記参照ブロックがOOB処理対象であるかどうかの判定をしてもよい。例えばVVCにおけるラップアラウンド処理は水平方向に限られることから、ラップアラウンド処理が有効な場合には、例えば以下のようにラップアラウンド処理の対象外である垂直方向の座標のみを比較してisOOB[X]を導出する。そうではなく、ラップアラウンド処理が無効な場合には、垂直方向、水平方向の両方の座標を比較してisOOB[X]を導出する(X=0,1)。
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
if (pps_ref_wraparound_enabled_flag == true) {
isOOB[X] = (yRefLX <= picMinY) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
} else {
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
isOOB[X] = ((pps_ref_wraparound_enabled_flag == false) &&
((xRefLX <= picMinX) ||
((xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX <= picMinY) ||
((yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)))
上記構成によれば、ラップアラウンド処理有効時にもOOB処理を併用し、符号化効率の向上が可能であるという効果を奏する。
<構成例3>
本構成例におけるOOB判定部30921は、参照ピクチャリサンプリング(RPR)処理が適用されている参照ピクチャに対しては、座標を所定のスケールで補正したうえでOOB判定処理を行う。具体的には以下のようにして座標を補正する。
本構成例におけるOOB判定部30921は、参照ピクチャリサンプリング(RPR)処理が適用されている参照ピクチャに対しては、座標を所定のスケールで補正したうえでOOB判定処理を行う。具体的には以下のようにして座標を補正する。
動き補償部3091は、上述の(MC-P1)の代わりに、動きベクトルrefMvLXで示される輝度座標(refxSbL,refySbL)および(refxL,refyL)を次のように導出する(MC-P2)。
refxSbL = (((xPb ‐ (SubWidthC * pps_scaling_win_left_offset)) << log2MVPREC) + refMvLX[0]) * scalingRatio[0]
refxL = ((sign(refxSbL) * ((abs(refxSbL) + offsetP1) >> shiftP1) + xL * ((scalingRatio[0] + offsetP2) >> shiftP2)) + fRefLeftOffset + offsetP3) >> shiftP3
refySbL = (((yPb ‐ (SubHeightC * pps_scaling_win_top_offset)) << log2MVPREC) + refMvLX[1]) * scalingRatio[1]
refyL = ((sign(refySbL) * ((abs(refySbL) + offsetP1) >> shiftP1) + yL * ((scalingRatio[1] + offsetP2) >> shiftP2)) + fRefTopOffset + offsetP3) >> shiftP3
ここで、offsetP1=(1<<(shiftP1-1)、offsetP2=(1<<(shift2-1)、offsetP3=(1<<(shiftP3-1)。例えば、shiftP1=8、shiftP2=4, shiftP3=6、offsetP1、offsetP2、offsetP3=128、8、6。
xInt = refxL>>log2MVPREC
xFrac = refxL &(MVPREC-1)
yInt = refyL >>log2MVPREC
yFrac = refyL &(MVPREC-1)
ここでSubWidthCとSubHeightCは、色差フォーマットのサンプリング方式により決まる値であり、輝度画素の幅と高さに対する色差画素の幅と高さの比率である。符号化データ中のシンタックス要素sps_chroma_format_idcを復号して、次のように導出してもよい。sps_chroma_format_idcは色差フォーマットを示すパラメータである。
refxSbL = (((xPb ‐ (SubWidthC * pps_scaling_win_left_offset)) << log2MVPREC) + refMvLX[0]) * scalingRatio[0]
refxL = ((sign(refxSbL) * ((abs(refxSbL) + offsetP1) >> shiftP1) + xL * ((scalingRatio[0] + offsetP2) >> shiftP2)) + fRefLeftOffset + offsetP3) >> shiftP3
refySbL = (((yPb ‐ (SubHeightC * pps_scaling_win_top_offset)) << log2MVPREC) + refMvLX[1]) * scalingRatio[1]
refyL = ((sign(refySbL) * ((abs(refySbL) + offsetP1) >> shiftP1) + yL * ((scalingRatio[1] + offsetP2) >> shiftP2)) + fRefTopOffset + offsetP3) >> shiftP3
ここで、offsetP1=(1<<(shiftP1-1)、offsetP2=(1<<(shift2-1)、offsetP3=(1<<(shiftP3-1)。例えば、shiftP1=8、shiftP2=4, shiftP3=6、offsetP1、offsetP2、offsetP3=128、8、6。
xInt = refxL>>log2MVPREC
xFrac = refxL &(MVPREC-1)
yInt = refyL >>log2MVPREC
yFrac = refyL &(MVPREC-1)
ここでSubWidthCとSubHeightCは、色差フォーマットのサンプリング方式により決まる値であり、輝度画素の幅と高さに対する色差画素の幅と高さの比率である。符号化データ中のシンタックス要素sps_chroma_format_idcを復号して、次のように導出してもよい。sps_chroma_format_idcは色差フォーマットを示すパラメータである。
sps_chroma_format_idc=0(Monocrome)のとき、SubWidthC=1、SubHeightC=1
sps_chroma_format_idc=1(4:2:0)のとき、SubWidthC=2、SubHeightC=2
sps_chroma_format_idc=2(4:2:2)のとき、SubWidthC=2、SubHeightC=1
sps_chroma_format_idc=3(4:4:4)のとき、SubWidthC=1、SubHeightC=1
pps_scaling_win_left_offset、pps_scaling_win_top_offset、pps_scaling_win_right_offset、pps_scaling_win_bottom_offsetは、スケーリング時に適用するオフセット値である。refMvLX(X=0,1)は参照ピクチャ上での動きベクトルであり、精度はMVPREC(1/MVPREC)である。scalingRatio[0]およびscalingRatio[1]は、それぞれ対象ピクチャに対する参照ピクチャの水平方向および垂直方向のスケーリング倍率である。
scalingRatio[0] = ((fRefWidth<<14) + (CurrPicScalWinWidthL>>1)) / CurrPicScalWinWidthL
scalingRatio[1] = ((fRefHeight<<14) + (CurrPicScalWinHeightL>>1)) / CurrPicScalWinHeightL
CurrPicScalWinWidthL = pps_pic_width_in_luma_samples ? SubWidthC * (pps_scaling_win_right_offset + pps_scaling_win_left_offset)
CurrPicScalWinHeightL = pps_pic_height_in_luma_samples ?SubHeightC * (pps_scaling_win_bottom_offset + pps_scaling_win_top_offset)
fRefWidthはRefPicListXのj番目の参照ピクチャのCurrPicScalWinWidthL、fRefHeightはRefPicListXのj番目の参照ピクチャのCurrPicScalWinHeightLである。pps_pic_width_in_luma_samples、pps_pic_height_in_luma_samplesはピクチャの幅、高さである。
sps_chroma_format_idc=1(4:2:0)のとき、SubWidthC=2、SubHeightC=2
sps_chroma_format_idc=2(4:2:2)のとき、SubWidthC=2、SubHeightC=1
sps_chroma_format_idc=3(4:4:4)のとき、SubWidthC=1、SubHeightC=1
pps_scaling_win_left_offset、pps_scaling_win_top_offset、pps_scaling_win_right_offset、pps_scaling_win_bottom_offsetは、スケーリング時に適用するオフセット値である。refMvLX(X=0,1)は参照ピクチャ上での動きベクトルであり、精度はMVPREC(1/MVPREC)である。scalingRatio[0]およびscalingRatio[1]は、それぞれ対象ピクチャに対する参照ピクチャの水平方向および垂直方向のスケーリング倍率である。
scalingRatio[0] = ((fRefWidth<<14) + (CurrPicScalWinWidthL>>1)) / CurrPicScalWinWidthL
scalingRatio[1] = ((fRefHeight<<14) + (CurrPicScalWinHeightL>>1)) / CurrPicScalWinHeightL
CurrPicScalWinWidthL = pps_pic_width_in_luma_samples ? SubWidthC * (pps_scaling_win_right_offset + pps_scaling_win_left_offset)
CurrPicScalWinHeightL = pps_pic_height_in_luma_samples ?SubHeightC * (pps_scaling_win_bottom_offset + pps_scaling_win_top_offset)
fRefWidthはRefPicListXのj番目の参照ピクチャのCurrPicScalWinWidthL、fRefHeightはRefPicListXのj番目の参照ピクチャのCurrPicScalWinHeightLである。pps_pic_width_in_luma_samples、pps_pic_height_in_luma_samplesはピクチャの幅、高さである。
fRefLeftOffsetおよびfRefTopOffsetは以下のように設定される値である。
fRefLeftOffset = (SubWidthC * pps_scaling_win_left_offset) << 10)
fRefTopOffset = (SubHeightC * pps_scaling_win_top_offset) << 10)
xL,yLは参照ブロックの左上座標を(0,0)とした相対座標である。
fRefLeftOffset = (SubWidthC * pps_scaling_win_left_offset) << 10)
fRefTopOffset = (SubHeightC * pps_scaling_win_top_offset) << 10)
xL,yLは参照ブロックの左上座標を(0,0)とした相対座標である。
OOB判定部30921は、RPR処理によるスケーリングをしない場合の参照ピクチャにおける参照ブロックの左上座標として、(xL,yL)=(0,0)を用いて導出した(refxL, refyL)として(xRefLX,yRefLX)を導出する。
xRefLX = refxL = ((sign(refxSbL) * ((abs(refxSbL) + 128) >> 8)) + fRefLeftOffset+ 32) >> 6
yRefLX = refyL = ((sign(refySbL) * ((abs(refySbL) + 128) >> 8)) + fRefTopOffset + 32) >> 6
また、RPR処理によるスケーリングを補正した参照ブロックの幅bWと高さbHはそれぞれ下式で導出される。
bW = sbWidth * ((scalingRatio[0]+8)>>4)
bH = sbHeight * ((scalingRatio[1]+8)>>4)
なお、補正の方法は上記の式に限定されない。少なくともRPR処理のスケーリング倍率scalingRatioを用いて座標系をスケーリングする方法であれば、他の方法でも構わない。
xRefLX = refxL = ((sign(refxSbL) * ((abs(refxSbL) + 128) >> 8)) + fRefLeftOffset+ 32) >> 6
yRefLX = refyL = ((sign(refySbL) * ((abs(refySbL) + 128) >> 8)) + fRefTopOffset + 32) >> 6
また、RPR処理によるスケーリングを補正した参照ブロックの幅bWと高さbHはそれぞれ下式で導出される。
bW = sbWidth * ((scalingRatio[0]+8)>>4)
bH = sbHeight * ((scalingRatio[1]+8)>>4)
なお、補正の方法は上記の式に限定されない。少なくともRPR処理のスケーリング倍率scalingRatioを用いて座標系をスケーリングする方法であれば、他の方法でも構わない。
OOB判定部30921は、このようにスケーリングにより補正された座標(xRefLX,xRefLY)を用いて、参照ブロックがOOBであるかどうかの判定を行う。
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) - 1) >= picMaxX) ||
(yRefLY + (bH<<log2MVPREC) - 1) >= picMaxY)
上記構成によれば、RPR処理とOOB処理を同時に適用することが可能となる。すなわち、RPR処理が適用されている参照ピクチャに対しては、スケーリングした座標に基づいてOOB判定処理を行うので、OOB処理による符号化効率の向上が可能となるという効果を奏する。
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) - 1) >= picMaxX) ||
(yRefLY + (bH<<log2MVPREC) - 1) >= picMaxY)
上記構成によれば、RPR処理とOOB処理を同時に適用することが可能となる。すなわち、RPR処理が適用されている参照ピクチャに対しては、スケーリングした座標に基づいてOOB判定処理を行うので、OOB処理による符号化効率の向上が可能となるという効果を奏する。
<構成例4>
構成例4では、RPR処理が適用されている参照ピクチャではOOB処理を行わない例について説明する。本構成例におけるOOB判定部30921は、参照ピクチャリサンプリング(RPR)処理が適用されているかどうかの判定を含め、対象ブロックがOOB処理の対象であるかどうか判定する。
if (refPicIsScaled == true) {
isOOB[X] = false
} else {
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
構成例4では、RPR処理が適用されている参照ピクチャではOOB処理を行わない例について説明する。本構成例におけるOOB判定部30921は、参照ピクチャリサンプリング(RPR)処理が適用されているかどうかの判定を含め、対象ブロックがOOB処理の対象であるかどうか判定する。
if (refPicIsScaled == true) {
isOOB[X] = false
} else {
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
isOOB[X] = !refPicIsScaled &&
((xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY))
ここで、refPicIsScaledは参照ピクチャにおいてRPR処理が有効、かつ、対象ピクチャと参照ピクチャのサイズが異なる場合にtrueとなる変数である。以下で導出してもよい。refPicIsScaled[i][j] = (
pps_pic_width_in_luma_samples != refPicWidth ||
pps_pic_height_in_luma_samples != refPicHeight ||
pps_scaling_win_left_offset != refScalingWinLeftOffset ||
pps_scaling_win_right_offset != refScalingWinRightOffset ||
pps_scaling_win_top_offset != refScalingWinTopOffset ||
pps_scaling_win_bottom_offset != refScalingWinBottomOffset ||
sps_num_subpics_minus1 != fRefNumSubpics)
sps_num_subpics_minus1+1、fRefNumSubpicsは対象ピクチャのサブピクチャの数、参照ピクチャのサブピクチャの数、refPicWidth、refPicHeightは参照ピクチャの幅と高さ、refScalingWinLeftOffset、refScalingWinRightOffset、refScalingWinTopOffset、refScalingWinBottomOffsetは参照ピクチャのオフセットを示す。
((xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY))
ここで、refPicIsScaledは参照ピクチャにおいてRPR処理が有効、かつ、対象ピクチャと参照ピクチャのサイズが異なる場合にtrueとなる変数である。以下で導出してもよい。refPicIsScaled[i][j] = (
pps_pic_width_in_luma_samples != refPicWidth ||
pps_pic_height_in_luma_samples != refPicHeight ||
pps_scaling_win_left_offset != refScalingWinLeftOffset ||
pps_scaling_win_right_offset != refScalingWinRightOffset ||
pps_scaling_win_top_offset != refScalingWinTopOffset ||
pps_scaling_win_bottom_offset != refScalingWinBottomOffset ||
sps_num_subpics_minus1 != fRefNumSubpics)
sps_num_subpics_minus1+1、fRefNumSubpicsは対象ピクチャのサブピクチャの数、参照ピクチャのサブピクチャの数、refPicWidth、refPicHeightは参照ピクチャの幅と高さ、refScalingWinLeftOffset、refScalingWinRightOffset、refScalingWinTopOffset、refScalingWinBottomOffsetは参照ピクチャのオフセットを示す。
上記構成によれば、RPR処理が適用されている参照ピクチャではOOB処理を適用せず、予測画像の生成において計算量の削減が可能になる効果を奏する。
<構成例5>
本構成例では、ラップアラウンド処理と参照ピクチャリサンプリング処理の両方が利用可能な場合を説明する。本構成例のOOB判定部30921は、対象ピクチャにおいてラップアラウンド処理が適用されているかどうかの判定、および、参照ピクチャリサンプリング(RPR)処理が適用されているかどうかの判定を含めて、対象ブロックがOOB処理の対象であるかどうかを判定する。
if (pps_ref_wraparound_enabled_flag || refPicIsScaled) {
isOOB[X] = false
} else {
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
本構成例では、ラップアラウンド処理と参照ピクチャリサンプリング処理の両方が利用可能な場合を説明する。本構成例のOOB判定部30921は、対象ピクチャにおいてラップアラウンド処理が適用されているかどうかの判定、および、参照ピクチャリサンプリング(RPR)処理が適用されているかどうかの判定を含めて、対象ブロックがOOB処理の対象であるかどうかを判定する。
if (pps_ref_wraparound_enabled_flag || refPicIsScaled) {
isOOB[X] = false
} else {
xRefLX = (xPb<<log2MVPREC) + mvLX[0]
yRefLX = (yPb<<log2MVPREC) + mvLX[1]
picMinX = 0 - MVPREC/2
picMinY = 0 - MVPREC/2
picMaxX = ((picW-1)<<log2MVPREC) + MVPREC/2
picMaxY = ((picH-1)<<log2MVPREC) + MVPREC/2
isOOB[X] = (xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY)
}
または、条件分岐ではなくOOB判定処理の論理式によって判定してもよい。
isOOB[X] = (!refWraparoundEnabledFlag && !refPicIsScaled) &&
((xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY))
上記構成によれば、ラップアラウンド処理と参照ピクチャリサンプリング処理の両方が利用可能な場合、いずれか片方の処理が適用されるならばOOB処理を実施しない。従って、予測画像生成における計算量の増加を抑制するという効果を奏する。なお、本構成例に限らず、OOB判定部30921は、構成例1または2と構成例3または4の他の組み合わせで構成してもよい。
((xRefLX <= picMinX) || (yRefLX <= picMinY) ||
(xRefLX + (bW<<log2MVPREC) -1) >= picMaxX) ||
(yRefLX + (bH<<log2MVPREC) -1) >= picMaxY))
上記構成によれば、ラップアラウンド処理と参照ピクチャリサンプリング処理の両方が利用可能な場合、いずれか片方の処理が適用されるならばOOB処理を実施しない。従って、予測画像生成における計算量の増加を抑制するという効果を奏する。なお、本構成例に限らず、OOB判定部30921は、構成例1または2と構成例3または4の他の組み合わせで構成してもよい。
(OOBマスク導出処理)
OOBマスク導出部30922は、参照ブロックに対してOOBマスク(OOBMask[X])を導出する。OOBMask[X]はbWxbH画素の二値の画像(マスク)であり、OOBMask[X][px][py](px=0..bW-1,py=0..bH-1)の値は、0(false)であれば画素(px,py)がピクチャ内、1(true)であればピクチャ外であることを示す。なお、falseとtrueは0, 1に限定されず、別の値、例えば2進数でBitDepth以上の長さ0か1の列からなるビットマスク値"0000000000b","1111111111b"などであってもよい。また16進数の"000", "3FF"や、"000", "FFF"、"0000", "FFFF"を用いてもよい。OOBマスク導出部30922は、OOB判定部30921がOOB処理対象ではない(isOOB[X]==false)と判定したブロックに対しては、OOBMask[X]の全ての値をfalseとする。また、OOB判定部30921がOOB処理対象である(isOOB[X]==true)と判定したブロックに対しては、次式を用いてマスクを導出する。なお、不等号(">="または"<=")は等号を含まなく(">"または"<")ても構わない。
OOBMask[X][px][py] = (((xRefLX >> log2MVPREC) + px <= (picMinX >> log2MVPREC)) || ((yRefLX >> log2MVPREC) + py <= (picMinY >> log2MVPREC)) ||
((xRefLX >> log2MVPREC) + px >= (picMaxX >> log2MVPREC)) || ((yRefLX >> log2MVPREC) + py >= (picMaxY >> log2MVPREC))) ? 1 : 0
もしくは
OOBMask[X][px][py] = ((xRefLX + (px<<log2MVPREC) <= picMinX) || (yRefLX + (py<<log2MVPREC) <= picMinY)) ||
((xRefLX + (px<<log2MVPREC) >= picMaxX) || (yRefLX + (py<<log2MVPREC) >= picMaxY)) ? 1 : 0
ただしpx=0..bW-1,py=0..bH-1である。
OOBマスク導出部30922は、参照ブロックに対してOOBマスク(OOBMask[X])を導出する。OOBMask[X]はbWxbH画素の二値の画像(マスク)であり、OOBMask[X][px][py](px=0..bW-1,py=0..bH-1)の値は、0(false)であれば画素(px,py)がピクチャ内、1(true)であればピクチャ外であることを示す。なお、falseとtrueは0, 1に限定されず、別の値、例えば2進数でBitDepth以上の長さ0か1の列からなるビットマスク値"0000000000b","1111111111b"などであってもよい。また16進数の"000", "3FF"や、"000", "FFF"、"0000", "FFFF"を用いてもよい。OOBマスク導出部30922は、OOB判定部30921がOOB処理対象ではない(isOOB[X]==false)と判定したブロックに対しては、OOBMask[X]の全ての値をfalseとする。また、OOB判定部30921がOOB処理対象である(isOOB[X]==true)と判定したブロックに対しては、次式を用いてマスクを導出する。なお、不等号(">="または"<=")は等号を含まなく(">"または"<")ても構わない。
OOBMask[X][px][py] = (((xRefLX >> log2MVPREC) + px <= (picMinX >> log2MVPREC)) || ((yRefLX >> log2MVPREC) + py <= (picMinY >> log2MVPREC)) ||
((xRefLX >> log2MVPREC) + px >= (picMaxX >> log2MVPREC)) || ((yRefLX >> log2MVPREC) + py >= (picMaxY >> log2MVPREC))) ? 1 : 0
もしくは
OOBMask[X][px][py] = ((xRefLX + (px<<log2MVPREC) <= picMinX) || (yRefLX + (py<<log2MVPREC) <= picMinY)) ||
((xRefLX + (px<<log2MVPREC) >= picMaxX) || (yRefLX + (py<<log2MVPREC) >= picMaxY)) ? 1 : 0
ただしpx=0..bW-1,py=0..bH-1である。
(OOB予測画像生成)
動き補償部3091(補間画像生成部3091)は、双予測の場合には、上記の(式MC-1)で導出したPred[][]を、L0リスト、L1リスト毎に補間画像PredL0[][]とPredL1[][]として設定する。そして、PredL0[][]とPredL1[][]から補間画像Pred[][]を生成する。双予測の参照ブロックがOOB処理の対象である場合、予測画像の生成に当該参照ブロックに対応するOOBMask[X]が用いられる。このときPred[][]は次のように導出される。
if (OOBMask[0][px][py] && !OOBMask[1][px][py]) { (式WP-1)
Pred[px][py] = (PredL1[px][py] + offset1)>> shift1
} else if (!OOBMask[0][px][py] && OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift1
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift2
}
ここでpx=0..bW-1,py=0..bH-1である。また、shift1=Max(2,14-bitDepth)、shift2=Max(3,15-bitDepth)、offset1=1<<(shift1-1)、offset2=1<<(shift2-1)である。なお、shift1は補間画像ビット深度(例えば14bit)を元のビット深度へ戻すためのシフト(例えば14-bitDepth)である。shift2は元のビットに戻すと同時に平均を兼ねた右シフト量、offset1、offset2はshift1、shift2だけ右シフトする際の丸め値である。
動き補償部3091(補間画像生成部3091)は、双予測の場合には、上記の(式MC-1)で導出したPred[][]を、L0リスト、L1リスト毎に補間画像PredL0[][]とPredL1[][]として設定する。そして、PredL0[][]とPredL1[][]から補間画像Pred[][]を生成する。双予測の参照ブロックがOOB処理の対象である場合、予測画像の生成に当該参照ブロックに対応するOOBMask[X]が用いられる。このときPred[][]は次のように導出される。
if (OOBMask[0][px][py] && !OOBMask[1][px][py]) { (式WP-1)
Pred[px][py] = (PredL1[px][py] + offset1)>> shift1
} else if (!OOBMask[0][px][py] && OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift1
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift2
}
ここでpx=0..bW-1,py=0..bH-1である。また、shift1=Max(2,14-bitDepth)、shift2=Max(3,15-bitDepth)、offset1=1<<(shift1-1)、offset2=1<<(shift2-1)である。なお、shift1は補間画像ビット深度(例えば14bit)を元のビット深度へ戻すためのシフト(例えば14-bitDepth)である。shift2は元のビットに戻すと同時に平均を兼ねた右シフト量、offset1、offset2はshift1、shift2だけ右シフトする際の丸め値である。
なお、CU単位の明示的重み付き双予測(BCW)あるいはイントラインター結合予測CIIP(combined inter-picture merge and intra-picture prediction)を用いるか否かに応じて上記処理を切り替えてもよい。bcwIndexはBCWの重みを示すインデクスである。ciip_flagはCIIPのオンオフを示すフラグである。bcwIndex==0もしくはCIIPフラグ(ciip_flag)が1の場合には上記(式WP-1)の処理を行う。それ以外の場合には、以下の処理を行う。w1 = bcwWLut[bcwIdx]
w0 = (8 - w1)
ここでbcwWLut[k] = {4, 5, 3, 10, -2}
if (OOBMask[0][px][py] && !OOBMask[1][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift1
} else if (!OOBMask[0][px][py] && OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift1
} else {
Pred[px][py] = ( w0 * PredL0[px][py] + w1 * PredL1[px][py] + offset3 )>>(shift1+3))
}
ここでoffset3=1<<(shift1+2)である。
w0 = (8 - w1)
ここでbcwWLut[k] = {4, 5, 3, 10, -2}
if (OOBMask[0][px][py] && !OOBMask[1][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift1
} else if (!OOBMask[0][px][py] && OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift1
} else {
Pred[px][py] = ( w0 * PredL0[px][py] + w1 * PredL1[px][py] + offset3 )>>(shift1+3))
}
ここでoffset3=1<<(shift1+2)である。
ブロック単位でLX参照ピクチャを使うかどうか示すフラグpredFlagLXと、OOBMaskによる処理を一つの分岐にまとめて以下のように処理すると処理量を軽減できる効果を奏する。
if ((predFlagL0 == 1 && predFlagL1 ==0) || (!OOBMask[0][px][py] && OOBMask[1][px][py])) { (式WP-2)
Pred[px][py] = (PredL0[px][py]*we0 + offset1)>> shift1
} else if ((predFlagL0 == 0 && predFlagL1 ==1) || OOBMask[0][px][py] && !OOBMask[1][px][py]) {
Pred[px][py] = (PredL1[px][py]*we1 + offset1)>> shift1
} else if ((bcwIdx ==0 || ciip_flag == 1) {
Pred[px][py] = (w0 * PredL0[px][py] + w1 * PredL1[px][py] + offset2)>>shift2
} else { // bcwIdx !=0 and ciip_flag == 0)
Pred[px][py] = (we0 * PredL0[px][py] + we1 * PredL1[px][py] + offset3)>>(shift1+3))
}
ここでwe0=we1=1/2であってもよい。
<排他構成>
上述の排他構成を利用する場合は、OOBMask[0]、OOBMask[1]ともに1となることはないので、動き補償部3091(補間画像生成部3091)は、以下の分岐処理により補間画像を導出することができる。
if (OOBMask[0][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift1
} else if (OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift1
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift2
}
また、予めPredL0、PredL1、PredBIを算出しておいて、以下のマスク処理で最終的なPredを導出することが適当である。
まず、PredL0、PredL1、PredBIを算出する。
PredL0[px][py] = (PredL0[px][py] + offset1) >> shift1
PredL1[px][py] = (PredL1[px][py] + offset1) >> shift1
PredBI[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2) >> shift2
次に、OOBMask[0][px][py]、OOBMask[1][px][py]の値として、2進数でBitDepth長の"1111111111b", "0000000000b"のビットマスクを用いる場合、以下の処理で最終的なPredを導出する。
Pred[px][py]=
(PredBI[px][py] & (~OOBMask[0][px][py] & ~OOBMask[1][px][py])) +
(PredL0[px][py] & ~OOBMask[0][px][py]) +
(PredL1[px][py] & ~OOBMask[1][px][py])
なお、true=1, false=0の値である場合には、0, 1からビットマスク値"0000000000b", "1111111111b"を生成して以下の処理でもよい。ここで"+"は"|"でもよい(以下のマスク演算処理でも同様)
Pred[px][py]= (式excl-1)
(PredBI[px][py] & (0-((!OOBMask[0][px][py] & !OOBMask[1][px][py]) ? 1 : 0)))+
(PredL0[px][py] & (0-(!OOBMask[0][px][py] ? 1 : 0))) +
(PredL1[px][py] & (0-(!OOBMask[1][px][py] ? 1 : 0)))
上記の式は、画素値のビット深度以上のビット幅を持つマスクを作成するために、二値(0または1)のマスクを0(全てのビットが0,画素値が無効)または-1(全てのビットが1,画素値が有効)に変換する計算を含んでいる。予測画像の導出はこれに限らず、PredBI,PredL0,PredL1に対応する3項のうちOOBマスクにより無効となる項が0となる計算を用いればよい。たとえば画素値のビット深度を最大16ビットとするとき、次式を用いてもよい。
Pred[px][py]=
(PredBI[px][py] & ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 0xFFFF : 0))+
(PredL0[px][py] & (!OOBMask[0][px][py] ? 0xFFFF : 0)) +
(PredL1[px][py] & (!OOBMask[1][px][py] ? 0xFFFF : 0))
3項の結合に加算を用いず、下記のようにビットORを用いてもよい。
Pred[px][py]=
(PredBI[px][py] & ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 0xFFFF : 0)) |
(PredL0[px][py] & (!OOBMask[0][px][py] ? 0xFFFF : 0)) |
(PredL1[px][py] & (!OOBMask[1][px][py] ? 0xFFFF : 0))
あるいは乗算を用いてもよい。
Pred[px][py]=
(PredBI[px][py] * ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 1 : 0)) +
(PredL0[px][py] * (!OOBMask[0][px][py] ? 1 : 0)) +
(PredL1[px][py] * (!OOBMask[1][px][py] ? 1 : 0))
上記によれば排他処理を簡略化できる。排他処理により、(式excl-1)の演算よりも処理を簡略化できる。
if ((predFlagL0 == 1 && predFlagL1 ==0) || (!OOBMask[0][px][py] && OOBMask[1][px][py])) { (式WP-2)
Pred[px][py] = (PredL0[px][py]*we0 + offset1)>> shift1
} else if ((predFlagL0 == 0 && predFlagL1 ==1) || OOBMask[0][px][py] && !OOBMask[1][px][py]) {
Pred[px][py] = (PredL1[px][py]*we1 + offset1)>> shift1
} else if ((bcwIdx ==0 || ciip_flag == 1) {
Pred[px][py] = (w0 * PredL0[px][py] + w1 * PredL1[px][py] + offset2)>>shift2
} else { // bcwIdx !=0 and ciip_flag == 0)
Pred[px][py] = (we0 * PredL0[px][py] + we1 * PredL1[px][py] + offset3)>>(shift1+3))
}
ここでwe0=we1=1/2であってもよい。
<排他構成>
上述の排他構成を利用する場合は、OOBMask[0]、OOBMask[1]ともに1となることはないので、動き補償部3091(補間画像生成部3091)は、以下の分岐処理により補間画像を導出することができる。
if (OOBMask[0][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift1
} else if (OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift1
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift2
}
また、予めPredL0、PredL1、PredBIを算出しておいて、以下のマスク処理で最終的なPredを導出することが適当である。
まず、PredL0、PredL1、PredBIを算出する。
PredL0[px][py] = (PredL0[px][py] + offset1) >> shift1
PredL1[px][py] = (PredL1[px][py] + offset1) >> shift1
PredBI[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2) >> shift2
次に、OOBMask[0][px][py]、OOBMask[1][px][py]の値として、2進数でBitDepth長の"1111111111b", "0000000000b"のビットマスクを用いる場合、以下の処理で最終的なPredを導出する。
Pred[px][py]=
(PredBI[px][py] & (~OOBMask[0][px][py] & ~OOBMask[1][px][py])) +
(PredL0[px][py] & ~OOBMask[0][px][py]) +
(PredL1[px][py] & ~OOBMask[1][px][py])
なお、true=1, false=0の値である場合には、0, 1からビットマスク値"0000000000b", "1111111111b"を生成して以下の処理でもよい。ここで"+"は"|"でもよい(以下のマスク演算処理でも同様)
Pred[px][py]= (式excl-1)
(PredBI[px][py] & (0-((!OOBMask[0][px][py] & !OOBMask[1][px][py]) ? 1 : 0)))+
(PredL0[px][py] & (0-(!OOBMask[0][px][py] ? 1 : 0))) +
(PredL1[px][py] & (0-(!OOBMask[1][px][py] ? 1 : 0)))
上記の式は、画素値のビット深度以上のビット幅を持つマスクを作成するために、二値(0または1)のマスクを0(全てのビットが0,画素値が無効)または-1(全てのビットが1,画素値が有効)に変換する計算を含んでいる。予測画像の導出はこれに限らず、PredBI,PredL0,PredL1に対応する3項のうちOOBマスクにより無効となる項が0となる計算を用いればよい。たとえば画素値のビット深度を最大16ビットとするとき、次式を用いてもよい。
Pred[px][py]=
(PredBI[px][py] & ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 0xFFFF : 0))+
(PredL0[px][py] & (!OOBMask[0][px][py] ? 0xFFFF : 0)) +
(PredL1[px][py] & (!OOBMask[1][px][py] ? 0xFFFF : 0))
3項の結合に加算を用いず、下記のようにビットORを用いてもよい。
Pred[px][py]=
(PredBI[px][py] & ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 0xFFFF : 0)) |
(PredL0[px][py] & (!OOBMask[0][px][py] ? 0xFFFF : 0)) |
(PredL1[px][py] & (!OOBMask[1][px][py] ? 0xFFFF : 0))
あるいは乗算を用いてもよい。
Pred[px][py]=
(PredBI[px][py] * ((!OOBMask[0][px][py] & !OOBMask[1][px][py])? 1 : 0)) +
(PredL0[px][py] * (!OOBMask[0][px][py] ? 1 : 0)) +
(PredL1[px][py] * (!OOBMask[1][px][py] ? 1 : 0))
上記によれば排他処理を簡略化できる。排他処理により、(式excl-1)の演算よりも処理を簡略化できる。
動き補償部3091(補間画像生成部3091)は、isOOBの値を参照して予め処理を分けてもよい。たとえば以下のようにしてもよい。このようにすれば、isOOB[X]がfalseの場合に画素毎にOOBMask[X][px][py]を参照する必要がなく、計算量を削減できるという効果を奏する。
if (isOOB[0] && !isOOB[1]) {
if (OOBMask[0][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift2
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
} else if (!isOOB[0] && isOOB[1]) {
if (OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift2
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
} else if (isOOB[0] && isOOB[1]) {
if (OOBMask[0][px][py] && !OOBMask[1][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift2
} else if (!OOBMask[0][px][py] && OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift2
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
(重み予測)
重み予測部3094は、補間画像PredLXに重み係数を乗算することによりブロックの予測画像を生成する。
if (isOOB[0] && !isOOB[1]) {
if (OOBMask[0][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift2
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
} else if (!isOOB[0] && isOOB[1]) {
if (OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift2
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
} else if (isOOB[0] && isOOB[1]) {
if (OOBMask[0][px][py] && !OOBMask[1][px][py]) {
Pred[px][py] = (PredL1[px][py] + offset1)>> shift2
} else if (!OOBMask[0][px][py] && OOBMask[1][px][py]) {
Pred[px][py] = (PredL0[px][py] + offset1)>> shift2
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
} else {
Pred[px][py] = (PredL0[px][py] + PredL1[px][py] + offset2)>> shift
}
(重み予測)
重み予測部3094は、補間画像PredLXに重み係数を乗算することによりブロックの予測画像を生成する。
インター予測画像生成部309は生成したブロックの予測画像を加算部312に出力する。
(動画像符号化装置の構成)
次に、本実施形態に係る動画像符号化装置11の構成について説明する。図7は、本実施形態に係る動画像符号化装置11の構成を示すブロック図である。動画像符号化装置11は、予測画像生成部101、減算部102、変換・量子化部103、逆量子化・逆変換部105、加算部106、ループフィルタ107、予測パラメータメモリ(予測パラメータ記憶部、フレームメモリ)108、参照ピクチャメモリ(参照画像記憶部、フレームメモリ)109、符号化パラメータ決定部110、パラメータ符号化部111、予測パラメータ導出部120、エントロピー符号化部104を含んで構成される。
次に、本実施形態に係る動画像符号化装置11の構成について説明する。図7は、本実施形態に係る動画像符号化装置11の構成を示すブロック図である。動画像符号化装置11は、予測画像生成部101、減算部102、変換・量子化部103、逆量子化・逆変換部105、加算部106、ループフィルタ107、予測パラメータメモリ(予測パラメータ記憶部、フレームメモリ)108、参照ピクチャメモリ(参照画像記憶部、フレームメモリ)109、符号化パラメータ決定部110、パラメータ符号化部111、予測パラメータ導出部120、エントロピー符号化部104を含んで構成される。
予測画像生成部101はCU毎に予測画像を生成する。予測画像生成部101は既に説明したインター予測画像生成部309とイントラ予測画像生成部を含んでおり、説明を省略する。
減算部102は、予測画像生成部101から入力されたブロックの予測画像の画素値を、画像Tの画素値から減算して予測誤差を生成する。減算部102は予測誤差を変換・量子化部103に出力する。
変換・量子化部103は、減算部102から入力された予測誤差に対し、周波数変換によって変換係数を算出し、量子化によって量子化変換係数を導出する。変換・量子化部103は、量子化変換係数をパラメータ符号化部111及び逆量子化・逆変換部105に出力する。
変換・量子化部103は、分離変換部(第1の変換部)と、非分離変換部(第2の変換部)と、スケーリング部と、を備えている。
分離変換部は、予測誤差に分離変換を適用する。スケーリング部は、変換係数に対して、量子化マトリックスによるスケーリングを行う。
逆量子化・逆変換部105は、動画像復号装置31における逆量子化・逆変換部311と同じであり、説明を省略する。算出した予測誤差は加算部106に出力される。
パラメータ符号化部111は、ヘッダ符号化部1110、CT情報符号化部1111、CU符号化部1112(予測モード符号化部)を備えている。CU符号化部1112はさらにTU符号化部1114を備えている。以下、各モジュールの概略動作を説明する。
ヘッダ符号化部1110はヘッダ情報、分割情報、予測情報、量子化変換係数等のパラメータの符号化処理を行う。
CT情報符号化部1111は、QT、MT(BT、TT)分割情報等を符号化する。
CU符号化部1112はCU情報、予測情報、分割情報等を符号化する。
TU符号化部1114は、TUに予測誤差が含まれている場合に、QP更新情報と量子化予測誤差を符号化する。
CT情報符号化部1111、CU符号化部1112は、インター予測パラメータ(predMode、general_merge_flag、merge_idx、inter_pred_idc、refIdxLX、mvp_LX_idx、mvdLX)、イントラ予測パラメータ、量子化変換係数等のシンタックス要素をパラメータ符号化部111に供給する。
エントロピー符号化部104には、パラメータ符号化部111から量子化変換係数と符号化パラメータ(分割情報、予測パラメータ)が入力される。エントロピー符号化部104はこれらをエントロピー符号化して符号化ストリームTeを生成し、出力する。
予測パラメータ導出部120は、インター予測パラメータ符号化部112、イントラ予測パラメータ符号化部を含む手段であり、符号化パラメータ決定部110から入力されたパラメータからイントラ予測パラメータ及びインター予測パラメータを導出する。導出されたイントラ予測パラメータ及びインター予測パラメータは、パラメータ符号化部111に出力される。
(インター予測パラメータ符号化部の構成)
インター予測パラメータ符号化部112は、パラメータ符号化制御部1121、インター予測パラメータ導出部303を含んで構成される。インター予測パラメータ導出部303は動画像復号装置と共通の構成である。パラメータ符号化制御部1121は、マージインデックス導出部11211とベクトル候補インデックス導出部11212を含む。
インター予測パラメータ符号化部112は、パラメータ符号化制御部1121、インター予測パラメータ導出部303を含んで構成される。インター予測パラメータ導出部303は動画像復号装置と共通の構成である。パラメータ符号化制御部1121は、マージインデックス導出部11211とベクトル候補インデックス導出部11212を含む。
マージインデックス導出部11211は、マージ候補等を導出し、インター予測パラメータ導出部303に出力する。ベクトル候補インデックス導出部11212は予測ベクトル候補等を導出し、インター予測パラメータ導出部303とパラメータ符号化部111に出力する。
(イントラ予測パラメータ符号化部の構成)
イントラ予測パラメータ符号化部は、パラメータ符号化制御部とイントラ予測パラメータ導出部を備える。イントラ予測パラメータ導出部は動画像復号装置と共通の構成である。
イントラ予測パラメータ符号化部は、パラメータ符号化制御部とイントラ予測パラメータ導出部を備える。イントラ予測パラメータ導出部は動画像復号装置と共通の構成である。
ただし、動画像復号装置と異なり、インター予測パラメータ導出部303、イントラ予測パラメータ導出部への入力は符号化パラメータ決定部110、予測パラメータメモリ108であり、パラメータ符号化部111に出力する。
加算部106は、予測画像生成部101から入力された予測ブロックの画素値と逆量子化・逆変換部105から入力された予測誤差を画素毎に加算して復号画像を生成する。加算部106は生成した復号画像を参照ピクチャメモリ109に記憶する。
ループフィルタ107は加算部106が生成した復号画像に対し、デブロッキングフィルタ、SAO、ALFを施す。なお、ループフィルタ107は、必ずしも上記3種類のフィルタを含まなくてもよく、例えばデブロッキングフィルタのみの構成であってもよい。
予測パラメータメモリ108は、符号化パラメータ決定部110が生成した予測パラメータを、対象ピクチャ及びCU毎に予め定めた位置に記憶する。
参照ピクチャメモリ109は、ループフィルタ107が生成した復号画像を対象ピクチャ及びCU毎に予め定めた位置に記憶する。
符号化パラメータ決定部110は、符号化パラメータの複数のセットのうち、1つのセットを選択する。符号化パラメータとは、上述したQT、BTあるいはTT分割情報、予測パラメータ、あるいはこれらに関連して生成される符号化の対象となるパラメータである。予測画像生成部101は、これらの符号化パラメータを用いて予測画像を生成する。
符号化パラメータ決定部110は、複数のセットの各々について情報量の大きさと符号化誤差を示すRDコスト値を算出する。RDコスト値は、例えば、符号量と二乗誤差に係数λを乗じた値との和である。符号量は、量子化誤差と符号化パラメータをエントロピー符号化して得られる符号化ストリームTeの情報量である。二乗誤差は、減算部102において算出された予測誤差の二乗和である。係数λは、予め設定されたゼロよりも大きい実数である。符号化パラメータ決定部110は、算出したコスト値が最小となる符号化パラメータのセットを選択する。符号化パラメータ決定部110は決定した符号化パラメータをパラメータ符号化部111と予測パラメータ導出部120に出力する。
なお、上述した実施形態における動画像符号化装置11、動画像復号装置31の一部、例えば、エントロピー復号部301、パラメータ復号部302、ループフィルタ305、予測画像生成部308、逆量子化・逆変換部311、加算部312、予測パラメータ導出部320、予測画像生成部101、減算部102、変換・量子化部103、エントロピー符号化部104、逆量子化・逆変換部105、ループフィルタ107、符号化パラメータ決定部110、パラメータ符号化部111、予測パラメータ導出部120をコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、動画像符号化装置11、動画像復号装置31のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、上述した実施形態における動画像符号化装置11、動画像復号装置31の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現しても良い。動画像符号化装置11、動画像復号装置31の各機能ブロックは個別にプロセッサ化しても良いし、一部、または全部を集積してプロセッサ化しても良い。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現しても良い。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いても良い。
以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
本発明の実施形態は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本発明の実施形態は、画像データが符号化された符号化データを復号する動画像復号装置、および、画像データが符号化された符号化データを生成する動画像符号化装置に好適に適用することができる。また、動画像符号化装置によって生成され、動画像復号装置によって参照される符号化データのデータ構造に好適に適用することができる。
(関連出願の相互参照)
本出願は、2022年7月5日に出願された日本国特許出願:特願2022-108070に対して優先権の利益を主張するものであり、それを参照することにより、その内容の全てが本書に含まれる。
(関連出願の相互参照)
本出願は、2022年7月5日に出願された日本国特許出願:特願2022-108070に対して優先権の利益を主張するものであり、それを参照することにより、その内容の全てが本書に含まれる。
31 動画像復号装置
301 エントロピー復号部
302 パラメータ復号部
3022 CU復号部
3024 TU復号部
303 インター予測パラメータ導出部
305、107 ループフィルタ
306、109 参照ピクチャメモリ
307、108 予測パラメータメモリ
308、101 予測画像生成部
309 インター予測画像生成部
3092 OOB処理部
30921 OOB判定部
30922 OOBマスク導出部
311、105 逆量子化・逆変換部
312、106 加算部
320 予測パラメータ導出部
11 動画像符号化装置
102 減算部
103 変換・量子化部
104 エントロピー符号化部
110 符号化パラメータ決定部
111 パラメータ符号化部
112 インター予測パラメータ符号化部
120 予測パラメータ導出部
301 エントロピー復号部
302 パラメータ復号部
3022 CU復号部
3024 TU復号部
303 インター予測パラメータ導出部
305、107 ループフィルタ
306、109 参照ピクチャメモリ
307、108 予測パラメータメモリ
308、101 予測画像生成部
309 インター予測画像生成部
3092 OOB処理部
30921 OOB判定部
30922 OOBマスク導出部
311、105 逆量子化・逆変換部
312、106 加算部
320 予測パラメータ導出部
11 動画像符号化装置
102 減算部
103 変換・量子化部
104 エントロピー符号化部
110 符号化パラメータ決定部
111 パラメータ符号化部
112 インター予測パラメータ符号化部
120 予測パラメータ導出部
Claims (9)
- 参照ブロックの座標をピクチャの座標と比較することで、参照ブロックがOOB処理の対象であるかどうかを判定するOOB判定部と、参照ブロックが含む画素の座標をピクチャの座標と比較することで、各画素の利用可否を表すマスクデータを導出するOOBマスク導出部を備える動画像復号装置であって、
前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに適用される処理の有無を用いて上記参照ブロックがOOB処理対象であるかどうかの判定をすることを特徴とする動画像復号装置。 - 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに適用されるラップアラウンド処理の有無を用いて上記参照ブロックがOOB処理対象であるかどうかの判定をすることを特徴とする請求項1に記載の動画像復号装置。
- 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャにラップアラウンド処理が適用される場合には上記参照ブロックへのOOB処理を無効とする判定をすることを特徴とする請求項2に記載の動画像復号装置。
- 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャにラップアラウンド処理が適用される場合には上記参照ブロックへのOOB処理対象であるかどうかの判定方法を変更することを特徴とする請求項2に記載の動画像復号装置。
- 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャにラップアラウンド処理が適用される場合にはラップアラウンド処理の適用対象外の座標値を用いてOOB処理対象であるかどうかの判定をすることを特徴とする請求項4に記載の動画像復号装置。
- 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに適用される参照ピクチャリサンプリング処理の有無を用いて上記参照ブロックがOOB処理対象であるかどうかの判定をすることを特徴とする請求項1に記載の動画像復号装置。
- 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに参照ピクチャリサンプリング処理が適用される場合には上記参照ブロックへのOOB処理を無効とする判定をすることを特徴とする請求項6に記載の動画像復号装置。
- 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに参照ピクチャリサンプリング処理が適用される場合には上記参照ブロックへのOOB処理対象であるかどうかの判定方法を変更することを特徴とする請求項6に記載の動画像復号装置。
- 前記OOB判定部は、上記参照ブロックが含まれる参照ピクチャに参照ピクチャリサンプリング処理が適用される場合には、参照ピクチャリサンプリング処理と同じスケール値を用いて補正した座標値を用いてOOB処理対象であるかどうかの判定をすることを特徴とする請求項8に記載の動画像復号装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022108070A JP2024006995A (ja) | 2022-07-05 | 2022-07-05 | 動画像復号装置および動画像符号化装置 |
JP2022-108070 | 2022-07-05 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2024009877A1 true WO2024009877A1 (ja) | 2024-01-11 |
Family
ID=89453527
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2023/024130 WO2024009877A1 (ja) | 2022-07-05 | 2023-06-29 | 動画像復号装置および動画像符号化装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2024006995A (ja) |
WO (1) | WO2024009877A1 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018534827A (ja) * | 2015-09-23 | 2018-11-22 | ノキア テクノロジーズ オーユー | 360度パノラマビデオの符号化方法、符号化装置、及びコンピュータプログラム |
WO2021115362A1 (en) * | 2019-12-11 | 2021-06-17 | Beijing Bytedance Network Technology Co., Ltd. | Sample padding for cross-component adaptive loop filtering |
-
2022
- 2022-07-05 JP JP2022108070A patent/JP2024006995A/ja active Pending
-
2023
- 2023-06-29 WO PCT/JP2023/024130 patent/WO2024009877A1/ja unknown
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018534827A (ja) * | 2015-09-23 | 2018-11-22 | ノキア テクノロジーズ オーユー | 360度パノラマビデオの符号化方法、符号化装置、及びコンピュータプログラム |
WO2021115362A1 (en) * | 2019-12-11 | 2021-06-17 | Beijing Bytedance Network Technology Co., Ltd. | Sample padding for cross-component adaptive loop filtering |
Also Published As
Publication number | Publication date |
---|---|
JP2024006995A (ja) | 2024-01-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021111962A1 (ja) | 動画像復号装置 | |
JP7448349B2 (ja) | 動画像復号装置 | |
WO2020137920A1 (ja) | 予測画像生成装置、動画像復号装置、動画像符号化装置および予測画像生成方法 | |
US11595658B2 (en) | Derivation of collocated motion vectors | |
JP7475908B2 (ja) | 予測画像生成装置、動画像復号装置及び動画像符号化装置 | |
WO2022254899A1 (ja) | 動画像復号装置および動画像符号化装置 | |
JP2020096279A (ja) | 予測画像生成装置、動画像復号装置および動画像符号化装置 | |
WO2021200658A1 (ja) | 動画像復号装置及び動画像復号方法 | |
WO2021200610A1 (ja) | 動画像復号装置、動画像符号化装置、動画像復号方法及び動画像符号化方法 | |
WO2024009877A1 (ja) | 動画像復号装置および動画像符号化装置 | |
JP2024041558A (ja) | 動画像復号装置および動画像符号化装置 | |
WO2023112648A1 (ja) | 動画像復号装置および動画像符号化装置 | |
WO2023100970A1 (ja) | 動画像復号装置および動画像符号化装置 | |
WO2021235448A1 (ja) | 動画像符号化装置及び動画像復号装置 | |
JP7465128B2 (ja) | 動画像符号化装置及び動画像復号装置 | |
WO2023249006A1 (ja) | 動画像復号装置 | |
JP2020088577A (ja) | 予測画像生成装置、動画像復号装置、および動画像符号化装置 | |
EP4346203A1 (en) | Image decoding apparatus and image coding apparatus | |
US20240107004A1 (en) | Image decoding apparatus and image coding apparatus | |
WO2023090198A1 (ja) | 動画像符号化装置、動画像復号装置 | |
JP2023155630A (ja) | 動画像符号化装置、動画像復号装置 | |
WO2023162920A1 (ja) | 動画像復号装置および動画像符号化装置 | |
US20220295075A1 (en) | Resource constrained video encoding | |
WO2023047950A1 (ja) | 動画像符号化装置、動画像復号装置 | |
JP2023028331A (ja) | 動画像復号装置および動画像符号化装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 23835409 Country of ref document: EP Kind code of ref document: A1 |