WO2026009474A1 - 画像復号装置、画像復号方法及びプログラム - Google Patents
画像復号装置、画像復号方法及びプログラムInfo
- Publication number
- WO2026009474A1 WO2026009474A1 PCT/JP2025/002842 JP2025002842W WO2026009474A1 WO 2026009474 A1 WO2026009474 A1 WO 2026009474A1 JP 2025002842 W JP2025002842 W JP 2025002842W WO 2026009474 A1 WO2026009474 A1 WO 2026009474A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- intra prediction
- image decoding
- mode
- prediction
- timd
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
Definitions
- the present invention relates to an image decoding device, an image decoding method, and a program.
- Non-Patent Document 1 discloses intra prediction. Intra prediction generates intra prediction values by copying neighboring pixels of the block to be decoded into the block to be decoded.
- Intra prediction is also made up of one planar mode, one DC mode, and 65 angle modes, and the angle modes provide prediction modes that replicate in multiple different directions to improve prediction accuracy.
- the intra prediction value is added to the prediction residual to reconstruct the decoded pixel.
- Non-patent documents 2 to 6 disclose methods for extending the intra-prediction of Non-patent document 1.
- Non-patent documents 1 and 2 disclose decoder-side intra mode derivation (DIMD).
- DIMD generates intra-predicted pixels for the block to be coded by calculating a gradient histogram from the decoded pixel region of the frame to be coded.
- DIMD selects the N-1 most frequent gradient histogram bins corresponding to the intra-prediction angle modes, generates multiple prediction pixels corresponding to a total of N modes in combination with predicted pixels in the intra-prediction planar mode or block vectors, applies position-dependent intra-prediction combination (PDPC), and then calculates a weighted average based on the weights of the bins to obtain the intra-prediction pixel for the block to be decoded.
- N 6
- Non-Patent Documents 1 and 3 disclose occurrence-based intra coding (OBIC).
- OBIC calculates a mode histogram of the intra prediction mode that reflects the block size from the decoded pixel area of the frame to be decoded, generates intra prediction pixels for the block to be coded, and applies PDPC.
- OBIC has the same specific procedures as DIMD, except for the histogram.
- the image decoding device derives multiple intra-prediction modes without signaling, resulting in excellent coding efficiency.
- Non-patent documents 1 and 4 disclose template-based intra-mode derivation (TIMD).
- TIMD derives the intra prediction mode for the block to be coded by applying intra prediction to the decoded pixel region of the frame to be coded and calculating the cost of each intra prediction mode.
- TIMD first uses nearby pixels as templates, and then calculates prediction errors (template costs) for some intra prediction modes when using outer nearby pixels as reference pixels.
- Some intra prediction modes use the most probable mode (MPM) constructed from modes selected for neighboring blocks, etc.
- MPM most probable mode
- TIMD selects the intra prediction mode with the smallest template cost and the intra prediction mode with the second smallest template cost, and calculates the template costs for each of the +1 and -1 neighboring modes.
- TIMD then selects the intra prediction mode with the smallest template cost and the intra prediction mode with the second smallest template cost, and determines whether to perform a weighted average based on the difference between the two template costs.
- TIMD will determine that a weighted average should be used if the difference in template costs is small.
- TIMD calculates the template cost of planar mode or DC mode and selects the smallest of the two, resulting in a total of three intra prediction modes. Otherwise, TIMD selects a total of two intra prediction modes.
- TIMD generates predicted pixels in each intra prediction mode, applies PDPC, and then performs a weighted average based on the template cost to determine the intra predicted pixels for the block to be decoded. Otherwise, TIMD determines not to perform a weighted average, generates predicted pixels in the intra prediction mode with the smallest template cost, and applies PDPC to determine the intra predicted pixels for the block to be decoded.
- TIMD allows an image decoding device to derive multiple intra prediction modes without signaling, resulting in excellent coding efficiency.
- the number of TIMD angle modes is set to 130, which is twice the 65 angle modes for intra prediction.
- Non-patent documents 1 and 5 disclose vertical planar and horizontal planar (hereinafter, the two will be referred to together as "directional planar").
- the Planar direction derives the intra prediction mode for the block to be coded using only horizontal and vertical interpolation in Planar.
- the horizontal interpolation value is calculated by taking a weighted average proportional to the x coordinate of the reference pixel at the same y coordinate as the pixel to be decoded and the reference pixel to the upper right.
- the vertical interpolated value is calculated by taking a weighted average proportional to the y coordinate of the reference pixel with the same x coordinate as the pixel to be decoded and the reference pixel to the lower left.
- the directional planar is used to apply PDPC to the interpolated value to obtain the intra-predicted pixel for the block to be decoded. Whether it is horizontal or vertical planar is signaled, and increasing the number of prediction methods has the effect of improving prediction accuracy.
- Non-Patent Documents 1 and 6 store weights obtained through prior learning as a matrix, and perform product-sum operations with neighboring pixels of the block to be decoded to obtain intra-predicted pixels (hereinafter referred to as matrix prediction).
- Non-Patent Document 6 the Planar mode, DC mode, even-numbered angle modes of intra prediction, even-numbered angle modes of DIMD, and the maximum bin (Primary) mode of OBIC are replaced, and the rest remain as conventional intra prediction, thereby avoiding additional signaling.
- Non-Patent Document 6 mixes intra prediction and matrix prediction even in the same mode for intra prediction and extended intra prediction methods (DIMD/OBIC (other than primary)/TIMD/directional planar), which poses the problem of requiring separate devices for each, resulting in a large device scale.
- DIMD/OBIC other than primary
- TIMD/directional planar extended intra prediction methods
- Planar intra prediction is a matrix prediction, but the extended Planar mode remains the same as before, so two types of equipment are required to support Planar mode, which creates the problem of doubling the equipment scale for Planar mode.
- Non-Patent Document 2 assumes conventional intra-prediction modes, but Non-Patent Document 6 shows that even-numbered intra-prediction angle modes have properties that differ from conventional ones.
- even-numbered intra prediction modes use product-sum operations with a matrix to predict, so they tend to generate relatively blurred intra prediction pixels due to weights that are learned to ensure accurate predictions on average.
- odd-numbered intra prediction modes are conventional intra prediction, which uses directional prediction to generate intra-predicted pixels that relatively preserve edges.
- the present invention was made in consideration of the above-mentioned issues, and aims to provide an image decoding device, image decoding method, and program with high coding efficiency.
- the first feature of the present invention is that it is an image decoding device that includes an intra prediction unit that generates first predicted pixels by replacing part or all of the intra prediction in an extended intra prediction method with a different prediction method.
- a second feature of the present invention is an image decoding method that includes a step of generating a first predicted pixel by replacing part or all of the intra prediction in an extended intra prediction method with another prediction method.
- a third feature of the present invention is a program that causes a computer to function as an image decoding device, the image decoding device comprising an intra prediction unit that generates first predicted pixels by replacing part or all of the intra prediction in an extended intra prediction method with another prediction method.
- the present invention provides an image decoding device, image decoding method, and program with high coding efficiency.
- FIG. 1 is a diagram showing an example of functional blocks of an image decoding device 200 according to the first embodiment.
- FIG. 2 is a diagram illustrating the intra prediction unit 204 of the image decoding device 200 according to the first embodiment.
- FIG. 3 is a flowchart illustrating the intra prediction unit 204 of the image decoding device 200 according to the first embodiment.
- FIG. 4 is a flowchart showing an example of the operation of the decoding unit 201 of the image decoding device 200 according to the first embodiment.
- FIG. 5 is a diagram showing an example of a method for setting TIMD that reflects the characteristics of intra prediction modes on a block-by-block basis in the decoding unit 201 of the image decoding device 200 according to the first embodiment.
- FIG. 6 is a diagram for explaining the DIMD.
- FIG. 7 is a diagram for explaining TIMD.
- the image decoding device 200 is designed to process a variety of image signals (hereinafter referred to as images).
- images the image decoding device 200 according to this embodiment is designed to process YUV (YCbCr) images composed of luminance and chrominance pixels, RGB images composed of RGB pixels, and monochrome images.
- YUV YCbCr
- RGB images composed of RGB pixels
- monochrome images the pixels that make up each image have discrete values (pixel values) with a predetermined bit width.
- FIG. 1 is a diagram showing an example of functional blocks of an image decoding device 200 according to this embodiment.
- the image decoding device 200 includes a decoding unit 201, an inverse quantization unit 202, an inverse transform unit 203, an intra prediction unit 204, a motion compensation unit 205, an adder 206, and an accumulation unit 207.
- pixel when used in the functional description of each part, it may also refer to a block (unit) made up of pixels, a tree block which is the maximum size of a block, or a slice, tile, or image (picture) which is larger than a tree block.
- the decoding unit 201 is configured to decode control information and quantization values from the code information encoded by the image encoding device.
- the decoding unit 201 is configured to output control information and quantization values by performing variable-length decoding on the code information.
- the quantized values are sent to the inverse quantization unit 202, and the control information is sent to the intra prediction unit 204 and motion compensation unit 205.
- this control information includes information necessary for controlling the inverse quantization unit 202, intra prediction unit 204, motion compensation unit 205, etc., and may also include header information such as a sequence parameter set, picture parameter set, picture header, slice header, etc.
- the inverse quantization unit 202 is configured to inverse quantize the quantized values sent from the decoding unit 201 to generate transform coefficients. These transform coefficients are sent to the inverse transform unit 203.
- the inverse transform unit 203 is configured to inversely transform the transform coefficients sent from the inverse quantization unit 202 to generate prediction residuals. These prediction residuals are sent to the adder 207.
- the motion compensation unit 205 is configured to generate second predicted pixels to be added to the prediction residual in the adder 206, based on the decoded pixels obtained by reference to the storage unit 207 and the control information decoded by the decoding unit 201. These second predicted pixels are sent to the adder 206.
- the storage unit 207 is configured to cumulatively store the decoded pixels sent from the adder 206. These decoded pixels are referenced by the intra prediction unit 204 and motion compensation unit 205 via the storage unit 207.
- the adder 206 is configured to add the prediction residual sent from the inverse transform unit 203 to the first predicted pixel or the second predicted pixel input from the intra prediction unit 204 or the motion compensation unit 205, respectively, to obtain a decoded pixel. These decoded pixels are output as an image and sent to the storage unit 207 and the intra prediction unit 204.
- Intra prediction unit 204 The function of the intra prediction unit 204 will be described below with reference to FIGS.
- the intra prediction unit 204 replaces some or all of the intra prediction used in one or more combinations of decoder-side intra mode derivation (DIMD), occurrence-based intra coding (OBIC), template-based intra mode derivation (TIMD), and planar direction as an extended intra prediction method with matrix prediction (another prediction method).
- DIMD decoder-side intra mode derivation
- OBIC occurrence-based intra coding
- TMD template-based intra mode derivation
- planar direction as an extended intra prediction method with matrix prediction (another prediction method).
- the TIMD to be replaced with matrix prediction may include TIMD used in CIIP (Combined Inter-picture merge and Intra-picture Prediction) and GPM (Geometric Partitioning Mode)-Intra, as disclosed in Non-Patent Document 1.
- the intra prediction mode to be replaced with matrix prediction can also be changed depending on the block size of the block to be decoded (block to be encoded or current block).
- the intra prediction angle mode for multiples of 4 is replaced with matrix prediction
- the intra prediction angle mode for multiples of 8 is replaced with matrix prediction
- intra prediction angle modes that are multiples of 8 may be replaced with matrix prediction
- intra prediction angle modes that are multiples of 4 may be replaced with matrix prediction
- the intra prediction mode to be replaced with matrix prediction may be changed depending on the width or height of the block to be decoded.
- the intra prediction angle mode for multiples of 4 is replaced with matrix prediction
- the intra prediction angle mode for multiples of 8 is replaced with matrix prediction
- the intra prediction angle mode for multiples of 8 may be replaced with matrix prediction
- the intra prediction angle mode for multiples of 4 may be replaced with matrix prediction
- whether or not to replace the intra prediction mode with matrix prediction may be controlled depending on whether or not there are reference pixels adjacent to the block to be decoded that are used in template cost calculation.
- the intra prediction mode may be replaced with matrix prediction.
- those reference pixels may be generated by duplicating (padding) the nearest existing reference pixels.
- whether or not to replace the intra prediction mode with matrix prediction may be controlled depending on whether or not the reference pixels adjacent to the block to be decoded, which are used in template cost calculation, exceed the boundary of the tree block to which the block to be decoded belongs.
- the intra prediction mode may be replaced with matrix prediction.
- the intra prediction mode does not need to be replaced with matrix prediction.
- those reference pixels may not be used, but may be generated by duplicating (padding) reference pixels within the boundary of the tree block to be decoded.
- the intra prediction mode may be replaced with matrix prediction.
- the intra prediction unit 204 standardizes the mode and weights of the matrix prediction to be replaced.
- the intra prediction unit 204 does not apply PDPC (Position Dependent Intra Prediction Combination).
- Matrix prediction already reflects position-dependent information, so by not applying it excessively, prediction accuracy can be improved and processing load can be reduced.
- Figure 2 shows the procedure for generating predicted pixels using planar matrix prediction in DIMD, generating predicted pixels using the top N-1 modes of the histogram, not applying PDPC to predicted pixels using matrix prediction, and applying PDPC to predicted pixels using non-matrix prediction, and generating the first predicted pixel using a weighted average based on the bins of the histogram.
- the intra prediction unit 204 controls the intra prediction mode and weights used for weighted averaging using DIMD and/or OBIC according to the characteristics of the intra prediction mode.
- the intra prediction unit 204 calculates a histogram from the neighborhood.
- the intra prediction unit 204 applies a gradient detection filter to each neighboring pixel and calculates the gradient histogram by counting the intra prediction modes for angles corresponding to the distribution of the neighboring pixels.
- the intra prediction unit 204 calculates the mode histogram by counting the intra prediction modes of neighboring blocks.
- the intra prediction unit 204 uses a different counting method for each intra prediction mode when calculating the histogram.
- the intra prediction unit 204 counts to give priority to even-numbered intra prediction modes.
- the intra prediction unit 204 calculates the histogram by multiplying by a preset constant.
- the intra prediction unit 204 calculates the histogram by adding a preset constant.
- odd-numbered intra prediction modes preserve edges more than even-numbered intra prediction modes, so the intra prediction unit 204 counts to give priority to odd-numbered intra prediction modes.
- the intra prediction unit 204 calculates the histogram by multiplying by a constant.
- the intra prediction unit 204 calculates the histogram by adding a constant.
- the intra prediction unit 204 controls the number of intra predictions weighted-averaged using DIMD and/or OBIC according to the distribution of intra prediction modes.
- odd-numbered intra prediction modes preserve edges relatively strongly, so it is preferable to increase the number of intra predictions used in the weighted average to generate complex prediction values that cannot be expressed by a single intra prediction.
- the intra prediction unit 204 changes the number of intra predictions to be weighted averaged depending on the distribution of intra prediction modes that are ranked high in the histogram.
- the intra prediction unit 204 changes N in proportion to the number of odd numbers.
- the intra prediction unit 204 sets an upper limit on the number of intra prediction modes to be weighted averaged for a specific intra prediction mode. For example, if the intra prediction unit 204 sets the upper limit to 2, even numbers will be set as targets for weighted averaging when selected from the top bins of the histogram until a maximum of two even numbers are selected.
- Figure 3 shows the procedure for generating predicted pixels in TIMD using the top two modes that minimize the template cost for the template, not applying PDPC to predicted pixels using matrix prediction, and applying PDPC to predicted pixels using non-matrix prediction, and generating the first predicted pixel using a weighted average based on the template cost.
- the intra prediction unit 204 generates the first predicted pixel by not applying PDPC to predicted pixels based on matrix prediction, but by applying PDPC to predicted pixels based on non-matrix prediction.
- the intra prediction unit 204 controls the weight of the intra prediction mode used for weighted averaging in TIMD depending on the type of intra prediction.
- Matrix forecasting has relatively high prediction accuracy, so it is desirable to increase the weight of the weighted average to prevent excessive smoothing.
- the intra prediction unit 204 changes the weight used for weighted averaging in TIMD.
- the intra prediction unit 204 does not change the weights.
- the intra prediction unit 204 changes the weight of a specific intra prediction. For example, when a matrix prediction weight w0 and an intra prediction weight w1 are mixed, the intra prediction unit 204 changes the weights w0 and w1 using a preset coefficient a as follows:
- the intra prediction unit 204 can also use the above formula. That is, in the above formula, if the coefficient a>1, priority is given to matrix prediction, and if the coefficient a ⁇ 1, priority is given to intra prediction.
- Increasing the number of intra predictions to be weighted averaged in TIMD can be achieved by setting the denominators w0 and w1 to the sum of the weights of the matrix prediction and intra prediction, respectively. For example, when expanding to three weighted averages, if the third is a matrix prediction, the intra prediction unit 204 changes it as follows:
- the intra prediction unit 204 controls the template cost evaluated in TIMD according to the type of intra prediction.
- the intra prediction unit 204 applies each intra prediction mode to the reference pixels of the nearby template. At this time, for modes that have been replaced with matrix prediction, the intra prediction unit 204 calculates the template cost using that matrix prediction.
- the intra prediction unit 204 calculates the template cost by applying the matrix where they relatively match.
- the block to be decoded is 16x16 pixels and the template has four lines above and to the left of the block to be decoded
- a matrix for 16x16 pixel blocks is applied to the reference pixels outside each template for the 16x4 pixel template above and the 4x16 pixel template to the left, and the predicted pixels for each template are calculated.
- the intra prediction unit 204 selects the intra prediction mode with the smallest template cost (Best mode) and the intra prediction mode with the second smallest template cost (2nd Best mode), and checks the adjacent modes within ⁇ 1 of each other.
- the intra prediction unit 204 calculates the template cost of the adjacent mode.
- the intra prediction unit 204 does not calculate the template cost of the adjacent mode.
- the intra prediction unit 204 determines whether or not to calculate the template cost of the adjacent mode depending on whether the prediction methods of the 2nd Best mode and its ⁇ 1 modes match.
- the intra prediction unit 204 will simply average, so it emphasizes the change in weight of the weighted average due to the difference in template cost.
- the intra prediction unit 204 raises the template cost to the Nth power and then calculates the weight.
- the intra prediction unit 204 generates predicted pixels in M modes, calculates the template cost as a weighted average of any combination, and generates the first predicted pixel using the optimal combination.
- the intra prediction unit 204 calculates the template cost using a weighted average of three combinations: Best mode and 2nd Best mode, Best mode and 3rd Best mode, and 2nd Best mode and 3rd Best mode, and generates the first predicted pixel using the combination that minimizes the template cost.
- the weighted average is evaluated using a template, which has the effect of improving prediction accuracy.
- the intra prediction unit 204 generates the first predicted pixel by multiplying the template cost of the Best mode by a preset constant and taking a weighted average of predicted pixels from any number of modes that have template costs smaller than the constant-multiplied template cost.
- the intra prediction unit 204 can also set an upper limit on the number of modes to be weighted averaged.
- This configuration has the effect of improving prediction accuracy by taking a weighted average of multiple modes.
- the intra prediction unit 204 limits the mode in which the template cost for matrix prediction is calculated.
- the intra prediction unit 204 since matrix prediction takes several times longer to process than conventional intra prediction, the intra prediction unit 204 temporarily replaces the template cost based on matrix prediction with the template cost based on conventional intra prediction.
- the intra prediction unit 204 calculates the template cost as if it were a conventional intra prediction mode, even if the mode is Matrix prediction.
- the intra prediction unit 204 calculates the template costs using matrix prediction for the K modes that have been replaced with matrix prediction, starting with the smallest template cost.
- the template cost using Matrix prediction may be calculated only if it is equal to or less than a constant multiple of the cost in Best mode. In other words, if it is greater than a constant multiple of the cost in Best mode (or equal to or greater than that), the template cost using Matrix prediction does not need to be calculated.
- the intra prediction unit 204 can change this number K depending on the cost value of the substituted template, the pixel distribution of the template, and the block size.
- the intra prediction unit 204 uses either Planar mode or DC mode as the third mode selection for TIMD without calculating the template cost.
- the intra prediction unit 204 may adaptively switch between using planar mode and DC mode without calculating the template cost, or between calculating the template cost and selecting planar mode and DC mode.
- the intra prediction unit 204 may perform the above-mentioned switching depending on the template cost values of Best mode and 2nd Best mode, the pixel distribution of the template, and the block size.
- the intra prediction unit 204 will not select a third mode if Matrix prediction mode is included in Best mode or 2nd Best mode.
- TIMD will be used as an example, but the same applies to DIMD, OBIC, and Planar direction cases.
- the coded information input to the image decoding device 200 may include a sequence parameter set (SPS), which summarizes control information for each sequence.
- SPS sequence parameter set
- such coding information may include a picture parameter set (PPS) or a picture header (PH) that summarizes control information on a picture-by-picture basis.
- PPS picture parameter set
- PH picture header
- SA slice header
- step S101 the decoding unit 201 determines whether sps_timd_enabled_flag is 1 in the sequence parameter set.
- sps_timd_enabled_flag is syntax that controls whether TIMD is applied depending on the characteristics of the intra prediction mode.
- sps_timd_enabled_flag 1
- sps_timd_enabled_flag 0
- step S102 if sps_timd_enabled_flag is 1, the decoding unit 201 decodes sps_timd_mode.
- the TIMD settings can be changed to reflect the characteristics of the intra prediction mode according to the image characteristics on a sequence-by-sequence basis, which is expected to maximize coding efficiency.
- the decoding unit 201 can be set to suppress weighted averaging in TIMD, while for sequences made up of natural images, it can be set to prioritize weighted averaging in TIMD, thereby maximizing coding efficiency.
- the decoding unit 201 When intra prediction is set on a picture-by-picture basis, the decoding unit 201 similarly decodes pps_timd_enabled_flag and pps_timd_mode in the picture parameter set or picture header.
- the TIMD settings can be changed on a picture-by-picture basis to reflect the characteristics of the intra prediction mode according to the image characteristics, which is expected to maximize coding efficiency.
- the decoding unit 201 can be set to suppress weighted averaging in TIMD, while for pictures made up of natural images, it can be set to prioritize weighted averaging in TIMD, thereby maximizing coding efficiency.
- the decoding unit 201 When intra prediction is set on a slice-by-slice basis, the decoding unit 201 similarly decodes sh_timd_enabled_flag and sh_timd_mode in the slice header.
- the decoding unit 201 can be configured to suppress weighted averaging in TIMD, while slices made up of natural images can be configured to prioritize weighted averaging in TIMD, thereby maximizing coding efficiency.
- TIMD that reflects the characteristics of intra prediction modes on a sequence-by-sequence, picture-by-picture, or slice-by-slice basis was described, but it may also be set directly on a block-by-block basis (described below) without these settings.
- step S201 the decoding unit 201 determines whether any of sps_timd_enabled_flag, pps_timd_enabled_flag, and sh_timd_enabled_flag is 1.
- step S205 If none of them is 1, the operation proceeds to step S205; if any one of them is 1, the operation proceeds to step S202.
- step S203 If the answer is YES, the operation proceeds to step S203; if the answer is NO, the operation proceeds to step S205.
- step S203 the decoding unit 201 determines whether reference pixels are available. For example, if the block to be decoded is at the edge of a frame or the edge of a processing unit (CTU: Coding Tree Unit), the decoding unit 201 determines that reference pixels are unavailable.
- CTU Coding Tree Unit
- step S204 If the answer is YES, the operation proceeds to step S204; if the answer is NO, the operation proceeds to step S205.
- step S204 the decoding unit 201 decodes cu_timd_mode, which is a control signal that indicates the TIMD setting that reflects the characteristics of the intra prediction mode.
- step S205 the decoding unit 201 ends this operation without decoding a control signal representing the TIMD setting that reflects the characteristics of the intra prediction mode.
- the image decoding device 200 replaces some or all of the intra prediction with matrix prediction in DIMD, OBIC, TIMD, and Planar directions, thereby reducing the size of the image decoding device 200 and adaptively generating first predicted pixels that reflect the characteristics of the intra prediction mode, thereby improving coding efficiency.
- the image decoding device 200 can improve coding efficiency by applying matrix prediction in TIMD and deriving the optimal intra prediction mode by calculating a template cost according to the matrix prediction.
- the above-described image decoding device 200 may be realized as a program that causes a computer to execute each function (each process).
- Image decoding device 201... Decoding unit 202... Inverse quantization unit 203... Inverse transform unit 204... Intra prediction unit 205... Motion compensation unit 206... Adder 207... Storage unit
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
符号化効率を向上させること。本発明に係る画像復号装置200は、イントラ予測の拡張方式においてイントラ予測の一部又は全部を別の予測方式に置換して予測することで第1予測画素を生成するイントラ予測部204を具備する。
Description
本発明は、画像復号装置、画像復号方法及びプログラムに関する。
非特許文献1には、イントラ予測について開示されている。イントラ予測は、復号対象ブロックに隣接する近傍画素を復号対象ブロックに複製することでイントラ予測値を生成する。
また、イントラ予測は、Planarモード1種類、DCモード1種類及び角度モード65種類から構成され、角度モードは、複数の異なる方向へ複製する予測モードを用意することで予測精度の向上を図る。
さらに、イントラ予測値は、予測残差と加算されることで、復号済み画素を再構成するために用いられる。
非特許文献1のイントラ予測の拡張方式として非特許文献2乃至6が開示されている。
非特許文献1及び2には、Decoder-side intra mode derivation(DIMD)が開示されている。
DIMDは、復号対象フレームの復号済み画素領域から勾配ヒストグラムを計算することで、符号化対象ブロックのイントラ予測画素を生成する。
具体的には、DIMDは、図6に示すように、イントラ予測の角度モードに対応する勾配ヒストグラムのbinが多い順にN-1個を選択し、イントラ予測のPlanarモードによる予測画素或いはBlock Vectorと合わせて計N個のモードに対応する複数の予測画素を生成し、位置依存イントラ予測結合(PDPC:Position Dependent intra Prediction Combination)を適用した上で、当該binに基づいて重みによる加重平均を復号対象ブロックのイントラ予測画素とする。なお、非特許文献1では、N=6を採用している。
また、非特許文献1及び3には、Occurrence-based Intra Coding(OBIC)について が開示されている。
OBICは、復号対象フレームの復号済み画素領域からブロックサイズを反映したイントラ予測モードのモードヒストグラムを計算することで、符号化対象ブロックのイントラ予測画素を生成し、PDPCを適用する。
ここで、OBICは、ヒストグラムが異なるだけで、具体的な手順については、DIMDと同じ手順を有する。
いずれの場合も、画像復号装置は、シグナリング無しで複数のイントラ予測モードを導出するため、符号化効率に優れる。
非特許文献1及び4には、Template-based Intra Mode Derivation(TIMD)について開示されている。
TIMDは、復号対象フレームの復号済み画素領域においてイントラ予測を適用し各イントラ予測モードのコストを計算することで、符号化対象ブロックのイントラ予測モードを導出する。
具体的には、TIMDは、図7に示すように、まず近傍画素をテンプレートとし、さらに外側の近傍画素を参照画素としたときの一部のイントラ予測モードによる予測誤差(テンプレートコスト)を計算する。
一部のイントラ予測モードでは、近傍ブロックなどで選択されているモードから構築した最尤モード(MPM:Most Probable Mode)が利用される。
次に、TIMDは、テンプレートコストが最小となるイントラ予測モード及びテンプレートコストが2番目に小さいイントラ予測モードを選択し、それぞれの+1及び-1の隣接モードについてもテンプレートコストを計算する。
TIMDは、改めてテンプレートコストが最小となるイントラ予測モード及びテンプレートコストが2番目に小さいイントラ予測モードを選択し、両者のテンプレートコストの差で加重平均するかどうかを判定する。
TIMDは、かかるテンプレートコストの差が小さければ加重平均すると判定する。
TIMDは、テンプレートコストが1番目及び2番目に小さいイントラ予測モードがいずれも角度モードの場合は、Planarモード又はDCモードのテンプレートコストを計算し、いずれか小さい方を選択することで計3つのイントラ予測モードを選択する。そうでなければ、TIMDは、計2つのイントラ予測モードを選択する。
続いて、TIMDは、それぞれのイントラ予測モードによる予測画素を生成し、PDPCを適用した上で、テンプレートコストに基づいて加重平均することで、復号対象ブロックのイントラ予測画素とする。そうでなければ、TIMDは、加重平均しないと判定し、テンプレートコストが最小となるイントラ予測モードで予測画素を生成し、PDPCを適用することで復号対象ブロックのイントラ予測画素とする。
TIMDにより、画像復号装置は、シグナリング無しで複数のイントラ予測モードを導出するため、符号化効率に優れる。非特許文献1では、TIMDの角度モードをイントラ予測の角度モード65種の2倍である130種に設定している。
非特許文献1及び5では、垂直Planar及び水平Planar(以下、2つ合わせた呼び方を「方向Planar」とする)が開示されている。
方向Planarは、Planarにおける水平補間のみ、垂直補間のみで符号化対象ブロックのイントラ予測モードを導出する。
具体的には、水平Planarの場合、復号対象画素に対して同じy座標の参照画素及び右上の参照画素をx座標に比例した加重平均で水平補間値を計算する。
一方、垂直Planarの場合は、復号対象画素に対して同じx座標の参照画素及び左下の参照画素をy座標に比例した加重平均で垂直補間値を計算する。
最後に、方向Planarは、当該補間値にPDPCを適用することで、復号対象ブロックのイントラ予測画素とする。水平Planarか垂直Planarかについては、シグナリングされ、予測方法の種類を増やすことにより予測精度を向上させる効果が得られる。
一方、非特許文献1及び6は、事前に学習して求めた重みをMatrixとして保持し、復号対象ブロックの近傍画素と積和演算することでイントラ予測画素とする(以降、Matrix予測と呼ぶ)。
非特許文献6では、イントラ予測のPlanarモード、DCモード、角度モードの偶数番、DIMDの角度モードの偶数番、OBICの最大bin(Primary)のモードを置き換え、残りは、従来のイントラ予測のままとすることで追加のシグナリングを回避している。
M. Coban, et al., "Algorithm description of Enhanced Compression Model 13 (ECM 13)," JVET-AH2025, 2024.
M. Abdoli, et al., "Non-CE3: Decoder-side Intra Mode Derivation (DIMD) with prediction fusion using Planar," JVET-O0449, 2019.
R. G. Youvalari, et al., "EE2-2.2: Occurrence-based intra coding (OBIC)," JVET-AH0076, 2024.
K. Cao et al., "JVET-W0123: Fusion for template-based intra mode derivation," JVET-W0123, 2021.
X. Li et al., "EE2-1.15: Horizontal and vertical planar modes," JVET-AB0127, 2022.
B. Ray, et al., "EE2-2.13: Matrix based intra prediction replacing conventional intra modes," JVET-AH0209, 2024.
非特許文献6は、イントラ予測及びイントラ予測の拡張方式(DIMD/OBIC(Primary以外)/TIMD/方向Planar)で同じモードであっても、イントラ予測及びMatrix予測を混在させているため、それぞれの装置が必要になることから装置規模が大きくなるという問題点があった。
例えば、イントラ予測のPlanarは、Matrix予測であるが、拡張方式のPlanarモードは、従来のままであるため、Planarモードに対応する2種類の装置が必要になり、Planarモードに関する装置規模が2倍になるという問題点があった。
また、非特許文献2は、従来のイントラ予測モードを前提としているが、非特許文献6により、イントラ予測の角度モードの偶数番は、従来とは異なる性質を持つ。
具体的には、偶数番のイントラ予測モードは、Matrixとの積和演算による予測なので、平均的に予測が当たるように学習された重みにより比較的ボケたイントラ予測画素を生成する傾向がある。
一方、奇数番のイントラ予測モードは、従来のイントラ予測なので、方向性予測で比較的エッジが保存されたイントラ予測画素を生成する。
このように、特性が異なるイントラ予測モードを一律に扱っているため、符号化効率に改善の余地がある。 そこで、本発明は、上述の課題に鑑みてなされたものであり、符号化効率の高い画像復号装置、画像復号方法及びプログラムを提供することを目的とする。
本発明の第1の特徴は、画像復号装置であって、イントラ予測の拡張方式においてイントラ予測の一部又は全部を別の予測方式に置換して予測することで第1予測画素を生成するイントラ予測部を具備することを要旨とする。
本発明の第2の特徴は、画像復号方法であって、イントラ予測の拡張方式においてイントラ予測の一部又は全部を別の予測方式に置換して予測することで第1予測画素を生成する工程を有することを要旨とする。
本発明の第3の特徴は、コンピュータを、画像復号装置として機能させるプログラムであって、前記画像復号装置は、イントラ予測の拡張方式においてイントラ予測の一部又は全部を別の予測方式に置換して予測することで第1予測画素を生成するイントラ予測部を具備することを要旨とする。
本発明によれば、符号化効率の高い画像復号装置、画像復号方法及びプログラムを提供することができる。
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下の実施形態における構成要素は、適宜、既存の構成要素等との置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
<第1実施形態>
以下、図1~図5を参照して、本実施形態に係る画像復号装置200について説明する。
以下、図1~図5を参照して、本実施形態に係る画像復号装置200について説明する。
本発明の第1実施形態に係る画像復号装置200は、多様な画像信号(以下、画像)を対象とする。例えば、本実施形態に係る画像復号装置200は、輝度画素及び色差画素で構成されたYUV(YCbCr)画像や、RGBの各画素で構成されたRGB画像や、モノクロ画像を対象とする。ここで、各画像を構成する画素は、所定のビット幅で離散的な値(画素値)を持つ。
図1は、本実施形態に係る画像復号装置200の機能ブロックの一例について示す図である。
図1に示すように、画像復号装置200は、復号部201と、逆量子化部202と、逆変換部203と、イントラ予測部204と、動き補償部205と、加算器206と、蓄積部207とを有する。
なお、以降、各部の機能説明で「画素」と記載している個所は、画素から構成されたブロック(ユニット)、ブロックの最大サイズであるツリーブロック、ツリーブロックよりも大きなスライスやタイル或いは画像(ピクチャ)であってもよい。
復号部201は、画像符号化装置によって符号化された符号情報から、制御情報並びに量子化値を復号するように構成されている。例えば、復号部201は、かかる符号情報に対して可変長復号を行うことで制御情報及び量子化値を出力するように構成されている。
ここで、量子化値は、逆量子化部202に送られ、制御情報は、イントラ予測部204及び動き補償部205に送られる。なお、かかる制御情報は、逆量子化部202、イントラ予測部204及び動き補償部205等の制御に必要な情報を含み、シーケンスパラメータセットやピクチャパラメータセットやピクチャヘッダやスライスヘッダ等のヘッダ情報を含んでもよい。
逆量子化部202は、復号部201から送られた量子化値を逆量子化して変換係数とするように構成されている。かかる変換係数は、逆変換部203に送られる。
逆変換部203は、逆量子化部202から送られた変換係数を逆変換して予測残差とするように構成されている。かかる予測残差は、加算器207に送られる。
イントラ予測部204は、加算器206を介して得られる復号済み画素及び復号部201で復号された制御情報に基づいて、加算器206で予測残差と加算するための第1予測画素を生成するように構成されている。かかる第1予測画素は、加算器206に送られる。
動き補償部205は、蓄積部207を参照して得られる復号済み画素及び復号部201で復号された制御情報に基づいて、加算器206で予測残差と加算するための第2予測画素を生成するように構成されている。かかる第2予測画素は、加算器206へ送られる。
蓄積部207は、加算器206から送られた復号済み画素を累積的に蓄積するように構成されている。かかる復号済み画素は、蓄積部207を介してイントラ予測部204及び動き補償部205からの参照を受ける。
加算器206は、逆変換部203から送られる予測残差と、イントラ予測部204或いは動き補償部205のそれぞれから入力される第1予測画素又は第2予測画素とを加算して復号済み画素を得るように構成されている。かかる復号済み画素は、画像として出力されると共に、蓄積部207及びイントラ予測部204へ送られる。
(イントラ予測部204)
以下、図2及び図3を参照して、イントラ予測部204の機能について説明する。
以下、図2及び図3を参照して、イントラ予測部204の機能について説明する。
まず、イントラ予測部204は、イントラ予測の拡張方式としてDIMD(Decoder-side intra mode derivation)、OBIC(Occurrence-based Intra Coding)、TIMD(Template-based Intra Mode Derivation)及び方向Planarの1つ以上の組み合わせにおいて使用するイントラ予測の一部又は全部をMatrix予測(別の予測方式)に置換する。
また、Matrix予測に置換するTIMDには、非特許文献1で開示されているCIIP(Combined Inter-picture merge and Intra-picture Prediction)やGPM (Geometric Partitioning Mode)-Intraで利用されるTIMDを含めてもよい。
ここで、Matrix予測に置換するイントラ予測のモードは、復号対象ブロック(符号化対象ブロック又は現在ブロック)のブロックサイズによって変更することもできる。
例えば、TIMDにおいて、16×16画素以下の復号対象ブロックは、イントラ予測の角度モードが4の倍数をMatrix予測に置換し、16×16画素より大きい復号対象ブロックは、イントラ予測の角度モードが8の倍数をMatrix予測に置換する。
逆に、TIMDにおいて、16×16画素以下のブロックは、イントラ予測の角度モードが8の倍数をMatrix予測に置換し、16×16画素より大きいブロックは、イントラ予測の角度モードが4の倍数をMatrix予測に置換してもよい。
或いは、Matrix予測に置換するイントラ予測のモードを、復号対象ブロックの幅又は高さによって変更してもよい。
例えば、TIMDにおいて、幅又は高さが16画素以下の復号対象ブロックは、イントラ予測の角度モードが4の倍数をMatrix予測に置換し、16画素より大きい復号対象ブロックは、イントラ予測の角度モードが8の倍数をMatrix予測に置換する。
逆に、TIMDにおいて、16画素以下の復号対象ブロックは、イントラ予測の角度モードが8の倍数をMatrix予測に置換し、16画素より大きい復号対象ブロックは、イントラ予測の角度モードが4の倍数をMatrix予測に置換してもよい。
上述のように、復号対象ブロックのブロックサイズ、或いは、幅及び高さによってMatrix予測に置換するイントラ予測のモードを変更することで、Matrix予測の符号化性能を維持しつつ、TIMDにおけるMatrix予測の復号処理時間を削減することができる。
また、TIMDにおいて、イントラ予測のモードをMatrix予測に置換するか否かを、テンプレートコスト計算に利用する復号対象ブロックに隣接する参照画素の存在有無に応じて制御してもよい。
例えば、テンプレートコスト計算に必要な参照画素が存在する場合は、イントラ予測のモードをMatrix予測に置換してもよい。
逆に、テンプレートコスト計算に必要な参照画素が存在しない場合は、イントラ予測のモードをMatrix予測に置換しなくてもよい。
変更例として、テンプレートコスト計算に必要な参照画素の一部が存在しない場合は、当該参照画素を最近接の存在する参照画素から複製(パディング)して生成してもよい。
或いは、TIMDにおいて、イントラ予測のモードをMatrix予測に置換するか否かを、テンプレートコスト計算に利用する復号対象ブロックに隣接する参照画素が、復号対象ブロックが属する復号対象ツリーブロックの境界を超えるか否かに応じて制御してもよい。
例えば、テンプレートコスト計算に利用する復号対象ブロックに隣接する参照画素が、復号対象ブロックが属する復号対象ツリーブロックの境界を超えない場合は、イントラ予測のモードをMatrix予測に置換してもよい。
逆に、テンプレートコスト計算に利用する復号対象ブロックに隣接する参照画素が、復号対象ブロックが属する復号対象ツリーブロックの境界を超える場合は、イントラ予測のモードをMatrix予測に置換しなくてもよい。
変更例として、テンプレートコスト計算に必要な参照画素の一部が復号対象ツリーブロックの境界を超える場合は、当該参照画素を利用せず、復号対象ツリーブロックの境界内にある参照画素から複製(パディング)して生成してもよい。
他の変更例として、復号対象ツリーブロックの境界を超える場合であっても、復号対象ツリーブロックラインバッファにテンプレートコスト計算に必要な参照画素が含まれる場合は、イントラ予測のモードをMatrix予測に置換してもよい。
ここで、イントラ予測部204は、置換するMatrix予測のモード及び重みについて共通化する。
例えば、DIMD、OBIC、TIMD及び方向PlanarにおけるPlanarモードをMatrix予測に置換することで、画像復号装置200から従来のイントラ予測におけるPlanarモードの処理装置を排除できる上に、Matrix予測の処理装置及び重みを共通化できるため、装置規模を低減させる効果が得られる。
逆に、一部を置換することで異なる予測方式により多様な予測値を生成できる効果が得られる。
また、イントラ予測部204は、置換されたMatrix予測が選択された場合、PDPC(Position Dependent intra Prediction Combination)を適用しない。
Matrix予測では、位置依存の情報が既に反映されているため、過剰に適用しないことで予測精度を向上させる効果が得られるとともに、処理負荷を低減する効果が得られる。
図2は、DIMDにおいて、Matrix予測のPlanarによる予測画素を生成し、ヒストグラム上位N-1のモードによる予測画素を生成し、Matrix予測による予測画素にはPDPCを適用せず、非Matrix予測による予測画素にはPDPCを適用し、ヒストグラムのbinに基づく加重平均で第1予測画素を生成する手順を示している。
なお、イントラ予測部204は、DIMD及び/又はOBICで加重平均するイントラ予測モード及び重みをイントラ予測モードの特性に応じて制御する。
まず、イントラ予測部204は、近傍からヒストグラムを計算する。イントラ予測部204は、勾配ヒストグラムの場合は、近傍画素ごとに勾配検出フィルタを適用し、近傍画素の分布に対応する角度のイントラ予測モードを計数することで、勾配ヒストグラムを計算する。
イントラ予測部204は、モードヒストグラムの場合は、近傍ブロックのイントラ予測モードを計数することで、モードヒストグラムを計算する。
このとき、イントラ予測部204は、ヒストグラムの計算においてイントラ予測モードごとに異なる計数方法を用いる。
例えば、偶数番のイントラ予測モードの予測精度は、奇数番のイントラ予測モードの予測精度より平均的に高いため、イントラ予測部204は、偶数のイントラ予測モードを優先するように計数する。
具体的には、イントラ予測部204は、偶数番のイントラ予測モードについては、予め設定した定数を乗算してヒストグラムを計算する。
或いは、イントラ予測部204は、予め設定した定数を加算してヒストグラムを計算する。
このように、偶数番のイントラ予測モードを優先することで、平均的に予測精度向上の効果が期待できる。
逆に、奇数番のイントラ予測モードは、偶数番のイントラ予測モードよりエッジを保存するため、イントラ予測部204は、奇数番のイントラ予測モードを優先するように計数する。
具体的には、イントラ予測部204は、奇数番のイントラ予測モードについては、定数を乗算してヒストグラムを計算する。
或いは、イントラ予測部204は、定数を加算してヒストグラムを計算する。
このように、奇数番のイントラ予測モードを優先することで、エッジが多い領域で予測精度向上の効果が期待できる。
別の実施例では、イントラ予測部204は、DIMD及び/又はOBICで加重平均するイントラ予測の数をイントラ予測モードの分布に応じて制御する。
偶数番のイントラ予測モードは、比較的予測精度が高いため、加重平均するイントラ予測の数は少なくすることで過剰に平滑化しない方が望ましい。
一方、奇数番のイントラ予測モードは、エッジが比較的強く保存されているので、加重平均するイントラ予測の数を多くすることで、単一のイントラ予測では表現できない複雑な予測値を生成する方が望ましい。
よって、イントラ予測部204は、ヒストグラムで上位に含まれるイントラ予測モードの分布に応じて加重平均するイントラ予測の数を変更する。
例えば、イントラ予測部204は、偶数しか存在しない場合は、N=2とし、奇数しか存在しない場合は、N=6とする。
それ以外の場合は、イントラ予測部204は、奇数番の個数に比例するようにNを変更する。或いは、イントラ予測部204は、特定のイントラ予測モードについて当該イントラ予測モードを加重平均する数に上限を設定する。例えば、イントラ予測部204は、上限値を2に設定した場合、ヒストグラムのbinの上位から選択したとき偶数番が最大2つ選択されるまで加重平均する対象に設定する。
図3は、TIMDにおいて、テンプレートにおいてテンプレートコストが最小となる上位2つのモードで予測画素を生成し、Matrix予測による予測画素にはPDPCを適用せず、非Matrix予測による予測画素にはPDPCを適用し、テンプレートコストに基づく加重平均で第1予測画素を生成する手順を示している。
テンプレートコストの差が閾値より大きく加重平均を適用しない場合も、イントラ予測部204は、Matrix予測による予測画素にはPDPCを適用せず、非Matrix予測による予測画素にはPDPCを適用することで第1予測画素を生成する。
なお、イントラ予測部204は、TIMDで加重平均するイントラ予測モードの重みをイントラ予測の種類に応じて制御する。
Matrix予測は、比較的予測精度が高いため、加重平均する重みを大きくすることで、過剰に平滑化されない方が望ましい。
一方、イントラ予測は、エッジが比較的強く保存されているので、加重平均する重みを小さくすることで、単一のイントラ予測では表現できない複雑な予測値を生成する方が望ましい。
よって、イントラ予測部204は、TIMDで加重平均するイントラ予測の種類が異なる場合に、TIMDで加重平均する重みを変更する。
例えば、イントラ予測部204は、同じ種類のイントラ予測しか存在しない場合は、重みを変更しない。
一方、イントラ予測部204は、異なる種類のイントラ予測が混在する場合は、特定のイントラ予測の重みを変更する。例えば、Matrix予測の重みw0及びイントラ予測の重みw1混在する場合、イントラ予測部204は、予め設定した係数aを用いて重みw0及びw1を次式のように変更する。
w0=a×w0/(a×w0+w1)
w1=w1/(a×w0+w1)
逆に、急峻なエッジが多く存在するコンテンツの場合、Matrix予測の重みを小さくしイントラ予測の重みを大きくする方が望ましい。この場合も、イントラ予測部204は、上式を利用することができる。すなわち、上式において、係数a>1とすればMatrix予測が優先され、係数a<1とすればイントラ予測が優先される。
w1=w1/(a×w0+w1)
逆に、急峻なエッジが多く存在するコンテンツの場合、Matrix予測の重みを小さくしイントラ予測の重みを大きくする方が望ましい。この場合も、イントラ予測部204は、上式を利用することができる。すなわち、上式において、係数a>1とすればMatrix予測が優先され、係数a<1とすればイントラ予測が優先される。
このように、イントラ予測の種類に応じて重みを制御することで予測精度を向上させる効果が得られる。
TIMDで加重平均するイントラ予測の数を増加させる場合は、分母のw0及びw1をそれぞれMatrix予測及びイントラ予測の重みの総和にすることで対応できる。例えば、イントラ予測部204は、3つの加重平均に拡張する場合、3つ目がMatrix予測であれば、次式のように変更する。
w0=a×w0/(a×(w0+w3)+w1)
w1=w1/(a×(w0+w3)+w1)
w2=a×w2/(a×(w0+w3)+w1)
別の実施例では、イントラ予測部204は、TIMDで評価するテンプレートコストについて、イントラ予測の種類に応じて制御する。
w1=w1/(a×(w0+w3)+w1)
w2=a×w2/(a×(w0+w3)+w1)
別の実施例では、イントラ予測部204は、TIMDで評価するテンプレートコストについて、イントラ予測の種類に応じて制御する。
まず、イントラ予測部204は、近傍のテンプレートの参照画素に各イントラ予測モードを適用する。このとき、イントラ予測部204は、Matrix予測に置換されているモードについては、当該Matrix予測でテンプレートコストを計算する。
復号対象ブロック及びテンプレートは、サイズも形状も異なるが、イントラ予測部204は、相対的に一致する場所のMatrixを適用することにより、テンプレートコストを算出する。
このように、より正確なテンプレートコストを計算することで予測精度を向上させる効果が得られる。
例えば、復号対象ブロックが16×16画素でテンプレートが復号対象ブロックの上方向及び左方向に4ラインずつある場合、それらの上方向のテンプレート16×4画素及び左方向のテンプレート4×16画素に対して、各テンプレートの外側にある参照画素に16×16画素ブロック向けのMatrixを適用して、各テンプレートの予測画素を算出する。
ここで、各テンプレートの予測画素の算出過程で、Matrixにより計算する予測画素値は、各テンプレートの画素領域分のみにする。これにより、テンプレートに対してMatrixを適用する場合の計算量増加を抑制する。 別の実施例では、イントラ予測部204は、テンプレートコストが最小となるイントラ予測モード(Bestモード)及びテンプレートが2番目に小さいイントラ予測モード(2nd Bestモード)を選択し、それぞれ±1の隣接するモードを確認する。
Bestモードと隣接するモードとが同じ種類のイントラ予測であれば、イントラ予測部204は、隣接するモードのテンプレートコストを計算する。
そうでなければ(Bestモードと隣接するモードとが別の種類のイントラ予測であれば)、イントラ予測部204は、隣接するモードのテンプレートコストを計算しない。
同様に、イントラ予測部204は、2nd Bestモードとその±1のモードとの予測方法が一致するかどうかで隣接するモードのテンプレートコストを計算するかしないかを決定する。
イントラ予測とMatrix予測とは特性が異なるため、不要な隣接するモードのテンプレートコスト計算を省略することで、処理負荷を低減できる効果が得られる。
或いは、イントラ予測部204は、Bestモードと2nd Bestモードとでテンプレートコストに差が無い場合は、単純平均になってしまうため、加重平均の重みについてテンプレートコストの差による変化を強調する。
例えば、イントラ予測部204は、テンプレートコストをN乗してから、重みを計算する。
このように、加重平均の重みに差をつけることで、過剰な平滑化によって予測精度が低下する問題を回避できる効果が得られる。
或いは、Bestモードと2nd Bestモードとでテンプレートコストに差が無い場合は、テンプレートコストがM(>2)番目まで小さいモード(M-th Bestモード)もBestモードとのテンプレートコストの差が小さいので、イントラ予測部204は、M個のモードで予測画素を生成し任意の組み合わせの加重平均でテンプレートコストを計算し最適な組み合わせで第1予測画素を生成する。
例えば、M=3の場合、イントラ予測部204は、Bestモードと2ndBestモード、Bestモードと3rd Bestモード、2nd Bestモードと3rd Bestモードの3通りの加重平均で、テンプレートコストを計算し、テンプレートコストが最小となる組み合わせで第1予測画素を生成する。
かかる構成によれば、加重平均をテンプレートで評価することで予測精度を向上させる効果が得られる。
或いは、Bestモードと2nd Bestモードとでテンプレートコストに差が無い場合は、テンプレートコストがM(>2)番目まで小さいモード(M-th Bestモード)もBestモードとのテンプレートコストの差が小さいので、イントラ予測部204は、加重平均するモード数を制御する。
例えば、イントラ予測部204は、Bestモードのテンプレートコストを予め設定した定数倍し、定数倍したテンプレートコストより小さなテンプレートコストを持つ任意数のモードによる予測画素を加重平均することで第1予測画素を生成する。イントラ予測部204は、加重平均するモード数の上限を設定することもできる。
かかる構成によれば、多数のモードを加重平均することで予測精度を向上させる効果が得られる。
別の実施例では、イントラ予測部204は、Matrix予測のテンプレートコストを計算するモードを限定する。
具体的には、従来のイントラ予測と比較して、Matrix予測は、処理時間が数倍かかるため、イントラ予測部204は、Matrix予測によるテンプレートコストを従来のイントラ予測によるテンプレートコストで一時的に代替する。
まず、イントラ予測部204は、Matrix予測のモードであったとしても、従来のイントラ予測のモードとしてテンプレートコストを計算する。
次に、イントラ予測部204は、テンプレートコストが小さい方からK個のMatrix予測に置換されているモードに対して、Matrix予測によるテンプレートコストを計算する。
或いは、Bestモードのコストの定数倍以下(或いは、未満)である場合に限り、Matrix予測によるテンプレートコストを計算してもよい。すなわち、Bestモードのコストの定数倍より大きい(或いは、以上)である場合は、Matrix予測によるテンプレートコストを計算しなくてもよい。
かかる構成によれば、Matrix予測によるテンプレートコスト計算をK個以内に削減できるため、処理時間を低減できる効果が得られる。
なお、Matrix予測によるテンプレートコストを計算する個数Kは、適応的に変更されてもよい。
例えば、イントラ予測部204は、代替したテンプレートコストの値やテンプレートの画素分布、ブロックサイズに応じて、かかる個数Kを変更させることができる。
別の実施例では、イントラ予測部204は、Bestモード及び2nd Bestモードに角度モードしか選択されていない場合(PlanarモードもDCモードも選択されていない場合)、TIMDの3つ目のモード選択として、テンプレートコストを計算せずに、PlanarモードかDCモードかのいずれかのモードを利用する。
かかる構成によれば、PlanarモードもDCモードもMatrix予測に置換されているため、置換前のモードと比較して両者のテンプレートコストに差が表れにくくなっており、いずれかのモードに確定することで処理時間を低減できる効果が得られる。
また、イントラ予測部204は、テンプレートコストを計算せずにPlanarモード及びDCモードのいずれのモードを利用するのか、或いは、テンプレートコストを計算してPlanarモード及びDCモードのいずれかを選択するのかは適応的に切り替えてもよい。
例えば、イントラ予測部204は、Bestモード及び2nd Bestモードのテンプレートコストの値やテンプレートの画素分布やブロックサイズに応じて、上述の切り替えを行ってもよい。
或いは、イントラ予測部204は、Bestモード及び2nd Bestモードに角度モードしか選択されていない場合(PlanarモードもDCモードも選択されていない場合)でも、Bestモード又は2nd BestモードにMatrix予測モードが含まれている場合は、3つ目のモードを選択しない。
かかる構成によれば、Matrix予測により予測精度が高くなっているため、過剰に加重平均しないことで、予測精度を向上させる効果が得られる。
また、かかる構成によれば、テンプレートコストを計算するモードの数を減らせるため、処理時間を低減できる効果が得られる。
以下、図4を参照して、イントラ予測について復号部201によって復号される制御情報について説明する。ここでは、TIMDを例に説明するが、DIMDやOBICや方向Planarのケースも同様である。
ここで、画像復号装置200に入力される符号情報は、シーケンス単位の制御情報をまとめたシーケンスパラメータセット(SPS)を含むことができる。
また、かかる符号情報は、ピクチャ単位の制御情報をまとめたピクチャパラメータセット(PPS)或いはピクチャヘッダ(PH)を含むことができる。さらに、かかる符号情報は、スライス単位の制御情報をまとめたスライスヘッダ(SH)を含んでもよい。
以下、図4を参照して、シーケンス単位で、イントラ予測を設定する方法について述べる。
ステップS101において、復号部201は、シーケンスパラメータセットで、sps_timd_enabled_flagが1であるか否かについて判定する。
ここで、sps_timd_enabled_flagは、イントラ予測モードの特性に応じたTIMDの適用の有無を制御するシンタックスである。
sps_timd_enabled_flagが1である場合は、イントラ予測モードの特性に応じたTIMDが有効であることを示し、sps_timd_enabled_flagが0である場合は、イントラ予測モードの特性に応じたTIMDが無効であることを示す。
ステップS102において、復号部201は、sps_timd_enabled_flagが1である場合、sps_timd_modeを復号する。
sps_timd_modeは、イントラ予測モードの特性に応じたTIMDを制御するシンタックスである。
このように、sps_timd_modeを用いることで、シーケンス単位で画像特性に応じてイントラ予測モードの特性を反映したTIMDの設定を変更できるため、符号化効率を最大化する効果が期待できる。
例えば、CGで構成されるシーケンスに対しては同値の画素が連続することが多いので、復号部201は、TIMDにおいて加重平均を抑制するように設定でき、自然画像で構成されるシーケンスに対しては、TIMDにおいて加重平均を優先するように設定できるため、符号化効率の最大化が図れる。
ピクチャ単位でイントラ予測を設定する場合は、復号部201は、ピクチャパラメータセット或いはピクチャヘッダで同様に、pps_timd_enabled_flag及びpps_timd_modeを復号する。
このように、pps_timd_modeを用いることで、ピクチャ単位で画像特性に応じてイントラ予測モードの特性を反映したTIMDの設定を変更できるため、符号化効率を最大化する効果が期待できる。
例えば、CGで構成されるピクチャに対しては同値の画素が連続することが多いので、復号部201は、TIMDにおいて加重平均を抑制するように設定でき、自然画像で構成されるピクチャに対しては、TIMDにおいて加重平均を優先するように設定できるため、符号化効率の最大化が図れる。
スライス単位でイントラ予測を設定する場合は、復号部201は、sh_timd_enabled_flag及びsh_timd_modeを、スライスヘッダで同様に復号する。
このように、sh_timd_modeを用いることで、スライス単位で画像特性に応じてイントラ予測モードの特性を反映したTIMDの設定を変更できるため、符号化効率を最大化する効果が期待できる。
例えば、CGで構成されるスライスに対しては同値の画素が連続することが多いので、復号部201は、TIMDにおいて加重平均を抑制するように設定でき、自然画像で構成されるスライスに対しては、TIMDにおいて加重平均を優先するように設定できるため、符号化効率の最大化が図れる。
ここで、上位層でのみ設定することで符号量の増大を抑制することもできるし、下位層でも設定した上で下位層での設定を優先することで適応的な制御ができる。
或いは、イントラ予測モードの特性を反映したTIMDの設定方法が事前に決まっている場合は、当該設定方法の復号自体を省略することができる。
なお、上述の例では、シーケンス単位、ピクチャ単位或いはスライス単位でイントラ予測モードの特性を反映したTIMDの設定方法を述べたが、これらを設定せずに、後述のブロック単位で直接設定してもよい。
以下、図5を参照して、ブロック単位でイントラ予測モードの特性を反映したTIMDを設定する方法について述べる。
図5に示すように、ステップS201において、復号部201は、sps_timd_enabled_flag、pps_timd_enabled_flag及びsh_timd_enabled_flagのいずれかが1であるか否かについて判定する。
いずれも1でない場合、本動作は、ステップS205に進み、いずれか1つでも1である場合、本動作は、ステップS202に進む。
ステップS202において、復号部201は、復号対象ブロックがTIMDモードであるか否かについて判定する。
YESの場合、本動作は、ステップS203に進み、NOの場合、本動作は、ステップS205に進む。
ステップS203において、復号部201は、参照画素が利用できるか否かについて判定する。例えば、復号部201は、復号対象ブロックがフレームの端や処理単位(CTU:Coding Tree Unit)の端である場合、参照画素を利用できないと判定する。
YESの場合、本動作は、ステップS204に進み、NOの場合、本動作は、ステップS205に進む。
ステップS204において、復号部201は、イントラ予測モードの特性を反映したTIMDの設定を表す制御信号であるcu_timd_modeを復号する。
ステップS205において、復号部201が、イントラ予測モードの特性を反映したTIMDの設定を表す制御信号を復号することなく、本動作は、終了する。
本実施形態に係る画像復号装置200によれば、DIMD、OBIC、TIMD及び方向Planarにおいて、イントラ予測の一部又は全部をMatrix予測に置換することで、画像復号装置200の規模を抑制しつつ、イントラ予測モードの特性を反映して適応的に第1予測画素を生成するので、符号化効率を向上させることができる。
また、本実施形態に係る画像復号装置200によれば、TIMDにおいてMatrix予測を適用しつつMatrix予測に応じたテンプレートコストの算出により最適なイントラ予測モードを導出することで符号化効率を改善することができる。
上述の画像復号装置200は、コンピュータに各機能(各工程)を実行させるプログラムであって実現されていてもよい。
なお、本実施形態によれば、例えば、動画像通信において総合的なサービス品質の向上を実現できることから、国連が主導する持続可能な開発目標(SDGs)の目標9「レジリエントなインフラを整備し、持続可能な産業化を推進するとともに、イノベーションの拡大を図る」に貢献することが可能となる。
200…画像復号装置
201…復号部
202…逆量子化部
203…逆変換部
204…イントラ予測部
205…動き補償部
206…加算器
207…蓄積部
201…復号部
202…逆量子化部
203…逆変換部
204…イントラ予測部
205…動き補償部
206…加算器
207…蓄積部
Claims (13)
- 画像復号装置であって、
イントラ予測の拡張方式においてイントラ予測の一部又は全部を別の予測方式に置換して予測することで第1予測画素を生成するイントラ予測部を具備することを特徴とする画像復号装置。 - 前記イントラ予測部は、前記イントラ予測の拡張方式として、DIMD、OBIC、TIMD及び方向Planarのうちの1つ以上の組み合わせとすることを特徴とする請求項1に記載の画像復号装置。
- 前記イントラ予測部は、置換する前記別の予測方式として、Matrix予測を利用することを特徴とする請求項1に記載の画像復号装置。
- 前記イントラ予測部は、前記イントラ予測の拡張方式の複数の組み合わせにおいて置換する前記別の予測方式について、予測モード及び重みを共通化することを特徴とする請求項1に記載の画像復号装置。
- 前記イントラ予測部は、前記TIMDのイントラ予測の一部又は全部をMatrix予測に置換することを特徴とする請求項2に記載の画像復号装置。
- 前記イントラ予測部は、置換された前記予測方式が選択された場合、PDPCを適用しないことを特徴とする請求項1に記載の画像復号装置。
- 前記イントラ予測部は、イントラ予測の種類に応じて、前記TIMDで評価するイントラ予測モードを制御することを特徴とする請求項2に記載の画像復号装置。
- 前記イントラ予測部は、前記TIMDの評価において別の種類のイントラ予測に置換されているモードについて、前記イントラ予測でテンプレートコストを計算することを特徴とする請求項2に記載の画像復号装置。
- 前記イントラ予測部は、前記TIMDの評価において、
所定モードと隣接するモードとが同じ種類のイントラ予測である場合、前記隣接するモードのテンプレートコストを計算し、
前記所定モードと前記隣接するモードとが同じ種類のイントラ予測でない場合、前記隣接するモードのテンプレートコストを計算しないことを特徴とする請求項7に記載の画像復号装置。 - 前記イントラ予測部は、イントラ予測の種類に応じて、前記TIMDで加重平均するイントラ予測モードの重みを制御することを特徴とする請求項2に記載の画像復号装置。
- 前記イントラ予測部は、前記イントラ予測の種類が異なる場合に、前記TIMDで加重平均する重みを変更することを特徴とする請求項7に記載の画像復号装置。
- 画像復号方法であって、
イントラ予測の拡張方式においてイントラ予測の一部又は全部を別の予測方式に置換して予測することで第1予測画素を生成する工程を有することを特徴とする画像復号方法。 - コンピュータを、画像復号装置として機能させるプログラムであって、
前記画像復号装置は、
イントラ予測の拡張方式においてイントラ予測の一部又は全部を別の予測方式に置換して予測することで第1予測画素を生成するイントラ予測部を具備することを特徴とするプログラム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2024107808A JP2026007712A (ja) | 2024-07-03 | 2024-07-03 | 画像復号装置、画像復号方法及びプログラム |
| JP2024-107808 | 2024-07-03 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2026009474A1 true WO2026009474A1 (ja) | 2026-01-08 |
Family
ID=98317820
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2025/002842 Pending WO2026009474A1 (ja) | 2024-07-03 | 2025-01-29 | 画像復号装置、画像復号方法及びプログラム |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP2026007712A (ja) |
| WO (1) | WO2026009474A1 (ja) |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2024016282A (ja) * | 2019-08-14 | 2024-02-06 | 北京字節跳動網絡技術有限公司 | イントラモードにおける予測サンプルフィルタリングのための重み付け係数 |
-
2024
- 2024-07-03 JP JP2024107808A patent/JP2026007712A/ja active Pending
-
2025
- 2025-01-29 WO PCT/JP2025/002842 patent/WO2026009474A1/ja active Pending
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2024016282A (ja) * | 2019-08-14 | 2024-02-06 | 北京字節跳動網絡技術有限公司 | イントラモードにおける予測サンプルフィルタリングのための重み付け係数 |
Non-Patent Citations (2)
| Title |
|---|
| B. RAY (QUALCOMM), H. WANG (QUALCOMM), P. GARUS, V. SEREGIN (QUALCOMM), M. KARCZEWICZ, S. EADIE, G. VERBA(QUALCOMM): "EE2-2.13: Matrix based intra prediction replacing conventional intra modes", 34. JVET MEETING; 20240417 - 20240424; RENNES; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), no. JVET-AH0209 ; m67303, 17 April 2024 (2024-04-17), XP030317645 * |
| M. COBAN, R.-L. LIAO, K. NASER, J. STRÖM, L. ZHANG: "Algorithm description of Enhanced Compression Model 13 (ECM 13)", 34. JVET MEETING; 20240417 - 20240424; RENNES; (THE JOINT VIDEO EXPLORATION TEAM OF ISO/IEC JTC1/SC29/WG11 AND ITU-T SG.16 ), 26 June 2024 (2024-06-26), XP030319932 * |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2026007712A (ja) | 2026-01-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112088533B (zh) | 图像编码/解码方法和装置以及存储比特流的记录介质 | |
| US10212452B2 (en) | Method and apparatus for encoding and decoding image through intra prediction | |
| JP5846674B2 (ja) | イントラ予測モード復号化方法及び装置 | |
| JP2026063309A (ja) | 画像復号方法、画像符号化方法、及び伝送方法 | |
| CN114208188B (zh) | 调色板模式编解码的扫描顺序改进 | |
| US12143600B2 (en) | Image encoding method/device, image decoding method/device, and recording medium in which bitstream is stored | |
| US20210344929A1 (en) | Encoding method and apparatus therefor, and decoding method and apparatus therefor | |
| US20100260261A1 (en) | Image encoding apparatus, image encoding method, and computer program | |
| JP2015159576A (ja) | 映像復号化装置 | |
| KR102624286B1 (ko) | 영상 분석을 이용한 비디오 부호화/복호화 방법 및 장치 | |
| US20190037216A1 (en) | Video signal encoding/decoding method and apparatus for same | |
| CN102823253A (zh) | 图像编码装置和方法以及图像解码装置和方法 | |
| CN114175662A (zh) | 调色板模式使用指示的条件相关编解码 | |
| US20220303543A1 (en) | Device and method for allocating code amounts to intra prediction modes | |
| KR20180080114A (ko) | 예측 블록의 중복성을 고려한 화면 내 예측 방법 및 화면 내 예측을 수행하는 영상 복호화 장치 | |
| WO2026009474A1 (ja) | 画像復号装置、画像復号方法及びプログラム | |
| EP1603343B1 (en) | Apparatus for spatial predictive decoding of video data | |
| WO2026009475A1 (ja) | 画像復号装置、画像復号方法及びプログラム | |
| KR102960525B1 (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| WO2024079986A1 (ja) | 画像復号装置、画像復号方法及びプログラム | |
| WO2026088628A1 (ja) | 画像復号装置、画像復号方法及びプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 25832588 Country of ref document: EP Kind code of ref document: A1 |