WO2018221368A1 - 動画像復号装置、及び動画像符号化装置 - Google Patents

動画像復号装置、及び動画像符号化装置 Download PDF

Info

Publication number
WO2018221368A1
WO2018221368A1 PCT/JP2018/019956 JP2018019956W WO2018221368A1 WO 2018221368 A1 WO2018221368 A1 WO 2018221368A1 JP 2018019956 W JP2018019956 W JP 2018019956W WO 2018221368 A1 WO2018221368 A1 WO 2018221368A1
Authority
WO
WIPO (PCT)
Prior art keywords
picture
sub
unit
image
prediction
Prior art date
Application number
PCT/JP2018/019956
Other languages
English (en)
French (fr)
Inventor
中條　健
知宏 猪飼
Original Assignee
シャープ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シャープ株式会社 filed Critical シャープ株式会社
Priority to US16/615,424 priority Critical patent/US11297349B2/en
Publication of WO2018221368A1 publication Critical patent/WO2018221368A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Definitions

  • Embodiments described herein relate generally to a moving picture decoding apparatus and a moving picture encoding apparatus.
  • a moving image encoding device that generates encoded data by encoding the moving image, and a moving image that generates a decoded image by decoding the encoded data
  • An image decoding device is used.
  • the moving picture coding method include a method proposed in H.264 / AVC and HEVC (High-Efficiency Video Coding).
  • an image (picture) constituting a moving image is a slice obtained by dividing the image, a coding tree unit (CTU: Coding Tree Unit obtained by dividing the slice). ), A coding unit obtained by dividing the coding tree unit (sometimes referred to as a coding unit (CU)), and a prediction unit that is a block obtained by dividing the coding unit (PU) and a hierarchical structure composed of conversion units (TU), and encoded / decoded for each CU.
  • CTU Coding Tree Unit obtained by dividing the slice.
  • a coding unit obtained by dividing the coding tree unit sometimes referred to as a coding unit (CU)
  • a prediction unit that is a block obtained by dividing the coding unit (PU) and a hierarchical structure composed of conversion units (TU), and encoded / decoded for each CU.
  • a predicted image is usually generated based on a local decoded image obtained by encoding / decoding an input image, and the predicted image is generated from the input image (original image).
  • a prediction residual obtained by subtraction (sometimes referred to as “difference image” or “residual image”) is encoded. Examples of methods for generating a predicted image include inter-screen prediction (inter prediction) and intra-screen prediction (intra prediction).
  • Patent Document 1 and Non-Patent Document 1 can be cited as recent moving image encoding and decoding techniques.
  • Patent Document 1 it is possible to arrange tiles with a high degree of freedom by using a layer used in scalable coding or the like instead of a tile.
  • Non-Patent Document 1 discloses a technique related to Tile of H.265 / HEVC.
  • Patent Document 1 it is possible to efficiently perform encoding / decoding processing and to provide a high-quality image.
  • An object of the present invention is to provide a high-quality image that can efficiently execute an encoding / decoding process.
  • a video decoding apparatus is allowed to allow a sub-picture decoding unit that decodes each sub-picture and the decoded sub-picture to overlap each other. And a picture synthesizing unit for synthesizing within the picture.
  • a video encoding apparatus encodes a picture division unit that divides a picture into sub-pictures that are allowed to overlap each other, and a sub-picture.
  • a sub-picture encoding unit encodes a picture division unit that divides a picture into sub-pictures that are allowed to overlap each other, and a sub-picture.
  • encoding / decoding processing can be executed efficiently and high-quality images can be provided.
  • FIG. 1 It is a figure which shows the hierarchical structure of the data of an encoding stream. It is a conceptual diagram which shows a subpicture sequence. It is a figure which shows the pattern of PU division
  • FIG. 3 is a block diagram illustrating a configuration of a sub-picture encoding unit in the image encoding device according to the first embodiment. It is a block diagram which shows the structure of the inter estimated image generation part of the image coding apparatus which concerns on Embodiment 1.
  • FIG. It is a block diagram which shows the structure of the image decoding apparatus which concerns on Embodiment 1.
  • 3 is a block diagram illustrating a configuration of a sub-picture decoding unit in the image decoding apparatus according to Embodiment 1.
  • FIG. It is a figure which shows an example of the syntax contained in the sub picture sequence parameter set SSPS which the picture synthetic
  • Fig. 10 is a diagram illustrating a hierarchical structure of an encoded stream Te in Embodiment 2.
  • FIG. 10 is a block diagram illustrating a configuration of a sub-picture encoding unit in an image encoding device according to Embodiment 2.
  • FIG. It is a block diagram which shows the structure of the image decoding apparatus which concerns on Embodiment 2.
  • 10 is a block diagram illustrating a configuration of a sub-picture decoding unit in an image decoding device according to Embodiment 2.
  • FIG. It is a figure which shows an example of the syntax contained in the picture parameter set PPS which the picture synthetic
  • FIG. 1 is a schematic diagram illustrating a configuration of an image transmission system according to a first embodiment.
  • FIG. 4 is a schematic diagram illustrating a configuration of an image transmission system according to a second embodiment.
  • FIG. 23 is a schematic diagram showing a configuration of the image transmission system 1 according to the present embodiment.
  • the image transmission system 1 is a system that transmits a code obtained by encoding an encoding target image, decodes the transmitted code, and displays an image.
  • the image transmission system 1 includes an image encoding device (moving image encoding device) 11, a network 21, an image decoding device (moving image decoding device) 31, and an image display device 41.
  • the image T indicating a single layer image or a plurality of layers of images is input to the image encoding device 11.
  • a layer is a concept used to distinguish a plurality of pictures when there are one or more pictures constituting a certain time. For example, when the same picture is encoded with a plurality of layers having different image quality and resolution, scalable encoding is performed, and when a picture at a different viewpoint is encoded with a plurality of layers, view scalable encoding is performed.
  • inter-layer prediction, inter-view prediction encoding efficiency is greatly improved. Further, even when prediction is not performed (simultaneous casting), encoded data can be collected.
  • the network 21 transmits the encoded stream Te generated by the image encoding device 11 to the image decoding device 31.
  • the network 21 is the Internet, a wide area network (WAN: Wide Area Network), a small network (LAN: Local Area Network), or a combination thereof.
  • the network 21 is not necessarily limited to a bidirectional communication network, and may be a one-way communication network that transmits broadcast waves such as terrestrial digital broadcast and satellite broadcast.
  • the network 21 may be replaced by a storage medium that records an encoded stream Te such as a DVD (Digital Versatile Disc) or a BD (Blu-ray Disc).
  • the image decoding device 31 decodes each of the encoded streams Te transmitted by the network 21, and generates one or a plurality of decoded images Td decoded.
  • the image display device 41 displays all or part of one or a plurality of decoded images Td generated by the image decoding device 31.
  • the image display device 41 includes, for example, a display device such as a liquid crystal display or an organic EL (Electro-luminescence) display.
  • a display device such as a liquid crystal display or an organic EL (Electro-luminescence) display.
  • an enhancement layer image with high image quality is displayed.
  • the base layer image that does not require higher processing capability and display capability is displayed as the enhancement layer.
  • X? Y: z is a ternary operator that takes y when x is true (non-zero) and takes z when x is false (0).
  • FIG. 1 is a diagram showing a hierarchical structure in the encoded stream Te.
  • the encoded stream Te illustratively includes a sequence and a plurality of sub-picture sequences constituting the sequence.
  • (A) to (g) of FIG. 1 respectively show an encoded video sequence defining a sequence SEQ, an encoded subpicture sequence defining a subpicture sequence, an encoded subpicture defining a subpicture SPICT, and a slice S.
  • FIG. 2 is a conceptual diagram showing a sub-picture sequence.
  • the video sequence is composed of a plurality of pictures PICT continuous in the time direction.
  • the sub-picture SPICT is obtained by dividing the picture PICT. More specifically, the sub-picture SPICT is divided by allowing the picture PICT to overlap each other.
  • the sub-picture sequence is composed of a plurality of sub-pictures SPICT that are continuous in the time direction.
  • the image decoding device 31 can decode sub-pictures efficiently in parallel and independently in units of sub-picture sequences.
  • the image decoding device 31 can reduce the image quality difference at the boundary between the divided screens by combining the sub-pictures while allowing the overlap.
  • the encoded video sequence In the encoded video sequence, a set of data referred to by the image decoding device 31 in order to decode the video sequence SEQ to be processed is defined. As shown in FIG. 1A, the sequence SEQ includes a video parameter set VPS (Video Parameter Set), a sequence parameter set SPS (Sequence Parameter Set), and a sub-picture sequence.
  • VPS Video Parameter Set
  • SPS Sequence Parameter Set
  • the value indicated after # indicates the layer ID.
  • FIG. 1 shows an example in which encoded data of # 0 and # 1, that is, layer 0 and layer 1, exists, but the type of layer and the number of layers are not dependent on this.
  • a set of encoding parameters common to the plurality of moving images, a plurality of layers included in the moving image, and encoding parameters related to the individual layers A set is defined.
  • the sequence parameter set SPS defines a set of encoding parameters that the image decoding device 31 refers to in order to decode the target sequence. For example, the width and height of the picture are defined. A plurality of SPSs may exist. In that case, one of a plurality of SPSs is selected from the SSPS.
  • the encoded sub-picture sequence includes a sub-picture sequence parameter set SSPS (Subpicture Sequence Parameter Set), a picture parameter set PPS (Picture Parameter Set), a picture PICT, additional extension information SEI (Supplemental Enhancement Information) and sub-picture SPICT.
  • SSPS Subpicture Sequence Parameter Set
  • PPS Picture Parameter Set
  • PICT picture PICT
  • SEI Supplemental Enhancement Information
  • the sub-picture sequence parameter set SSPS is a subordinate parameter of the sequence parameter set SPS and a superordinate parameter set of the picture parameter set PPS.
  • the sub-picture sequence parameter set SSPS defines a set of encoding parameters that the image decoding device 31 refers to in order to decode each sub-picture sequence in the target sequence. For example, the width and height of the sub picture are defined. There may be multiple SSPS. In that case, one of a plurality of SSPSs is selected from the PPS.
  • a set of encoding parameters referred to by the image decoding device 31 in order to decode each picture in the target sequence is defined.
  • a quantization width reference value (pic_init_qp_minus26) used for picture decoding and a flag (weighted_pred_flag) indicating application of weighted prediction are included.
  • the sub-picture SPICT includes slices S 0 to S NS-1 (NS is the total number of slices included in the sub-picture SPICT).
  • the total number of sub-pictures may be defined by a restriction due to the capability of the image decoding device 31 defined by a profile, a level, or the like.
  • the coded slice In the coded slice, a set of data referred to by the image decoding device 31 for decoding the slice S to be processed is defined. As shown in FIG. 1D, the slice S includes a slice header SH and slice data SDATA.
  • the slice header SH includes an encoding parameter group that is referred to by the image decoding device 31 in order to determine a decoding method of the target slice.
  • Slice type designation information (slice_type) for designating a slice type is an example of an encoding parameter included in the slice header SH.
  • I slice that uses only intra prediction at the time of encoding (2) P slice that uses unidirectional prediction or intra prediction at the time of encoding, (3) B-slice using unidirectional prediction, bidirectional prediction, or intra prediction at the time of encoding may be used.
  • the slice header SH may include a reference (pic_parameter_set_id) to the picture parameter set PPS included in the encoded video sequence.
  • the slice data SDATA includes a coding tree unit (CTU) as shown in (e) of FIG.
  • a CTU is a block of a fixed size (for example, 64x64) that constitutes a slice, and is sometimes called a maximum coding unit (LCU: Large Coding Unit).
  • Encoding tree unit As shown in (f) of FIG. 1, a set of data referred to by the image decoding device 31 in order to decode the encoding tree unit to be processed is defined.
  • the coding tree unit is divided by recursive quadtree division.
  • a tree-structured node obtained by recursive quadtree partitioning is referred to as a coding node (CN).
  • An intermediate node of the quadtree is an encoding node, and the encoding tree unit itself is defined as the highest encoding node.
  • the CTU includes a split flag (cu_split_flag), and when cu_split_flag is 1, it is split into four coding nodes CN.
  • the coding node CN is not divided and has one coding unit (CU: Coding Unit) as a node.
  • CU Coding Unit
  • the encoding unit CU is a terminal node of the encoding node and is not further divided.
  • the encoding unit CU is a basic unit of the encoding process.
  • the size of the coding tree unit CTU is 64 ⁇ 64 pixels
  • the size of the coding unit can be any of 64 ⁇ 64 pixels, 32 ⁇ 32 pixels, 16 ⁇ 16 pixels, and 8 ⁇ 8 pixels.
  • the encoding unit As shown in (g) of FIG. 1, a set of data referred to by the image decoding device 31 in order to decode the encoding unit to be processed is defined. Specifically, the encoding unit includes a prediction tree, a conversion tree, and a CU header CUH.
  • the CU header defines a prediction mode, a division method (PU division mode), and the like.
  • prediction information (a reference picture index, a motion vector, etc.) of each prediction unit (PU) obtained by dividing the coding unit into one or a plurality is defined.
  • the prediction unit is one or a plurality of non-overlapping areas constituting the encoding unit.
  • the prediction tree includes one or a plurality of prediction units obtained by the above-described division.
  • a prediction unit obtained by further dividing the prediction unit is referred to as a “sub-block”.
  • the sub block is composed of a plurality of pixels.
  • the number of sub-blocks in the prediction unit is one.
  • the prediction unit is larger than the size of the sub-block, the prediction unit is divided into sub-blocks. For example, when the prediction unit is 8x8 and the sub-block is 4x4, the prediction unit is divided into four sub-blocks that are horizontally divided into two and vertically divided into two.
  • the prediction process may be performed for each prediction unit (sub block).
  • Intra prediction is prediction within the same picture
  • inter prediction refers to prediction processing performed between different pictures (for example, between display times and between layer images).
  • the division method is encoded by the PU division mode (part_mode) of encoded data, and 2Nx2N (the same size as the encoding unit), 2NxN, 2NxnU, 2NxnD, Nx2N, nLx2N, nRx2N, and NxN etc.
  • 2NxN and Nx2N indicate 1: 1 symmetrical division
  • nRx2N indicate 1: 3, 3: 1 asymmetric partitioning.
  • the PUs included in the CU are expressed as PU0, PU1, PU2, and PU3 in this order.
  • FIG. 3 specifically show the partition shape (the position of the boundary of the PU partition) in each PU partition mode.
  • 3A shows a 2Nx2N partition
  • FIGS. 3B, 3C, and 2D show 2NxN, 2NxnU, and 2NxnD partitions (horizontal partitions), respectively.
  • E), (f), and (g) show partitions (vertical partitions) in the case of Nx2N, nLx2N, and nRx2N, respectively, and (h) shows an NxN partition.
  • the horizontal partition and the vertical partition are collectively referred to as a rectangular partition
  • 2Nx2N and NxN are collectively referred to as a square partition.
  • the encoding unit is divided into one or a plurality of conversion units, and the position and size of each conversion unit are defined.
  • the transform unit is one or a plurality of non-overlapping areas constituting the encoding unit.
  • the conversion tree includes one or a plurality of conversion units obtained by the above division.
  • the division in the conversion tree includes a case where an area having the same size as that of the encoding unit is assigned as a conversion unit, and a case where recursive quadtree division is used, as in the case of the CU division described above.
  • Conversion processing is performed for each conversion unit.
  • the prediction parameter includes prediction list use flags predFlagL0 and predFlagL1, reference picture indexes refIdxL0 and refIdxL1, and motion vectors mvL0 and mvL1.
  • the prediction list use flags predFlagL0 and predFlagL1 are flags indicating whether or not reference picture lists called L0 list and L1 list are used, respectively, and a reference picture list corresponding to a value of 1 is used.
  • flag indicating whether or not it is XX when “flag indicating whether or not it is XX” is described, when the flag is other than 0 (for example, 1) is XX, 0 is not XX, and logical negation, logical product, etc. 1 is treated as true and 0 is treated as false (the same applies hereinafter).
  • flag when the flag is other than 0 (for example, 1) is XX, 0 is not XX, and logical negation, logical product, etc. 1 is treated as true and 0 is treated as false (the same applies hereinafter).
  • other values can be used as true values and false values in an actual apparatus or method.
  • Syntax elements for deriving inter prediction parameters included in the encoded data include, for example, PU partition mode part_mode, merge flag merge_flag, merge index merge_idx, inter prediction identifier inter_pred_idc, reference picture index refIdxLX, prediction vector index mvp_LX_idx, And there is a difference vector mvdLX.
  • the reference picture list is a list including reference pictures stored in the reference picture memory 306.
  • FIG. 4 is a conceptual diagram illustrating an example of a reference picture and a reference picture list.
  • a rectangle is a picture
  • an arrow is a picture reference relationship
  • a horizontal axis is time
  • I, P, and B in the rectangle are intra pictures
  • uni-predictive pictures bi-predictive pictures
  • numbers in the rectangles are decoded. Indicates the order.
  • the decoding order of pictures is I0, P1, B2, B3, and B4
  • the display order is I0, B3, B2, B4, and P1.
  • FIG. 4B shows an example of the reference picture list.
  • the reference picture list is a list representing candidate reference pictures, and one picture (slice) may have one or more reference picture lists.
  • the target picture B3 has two reference picture lists, an L0 list RefPicList0 and an L1 list RefPicList1.
  • the reference pictures are I0, P1, and B2, and the reference picture has these pictures as elements.
  • refIdxLX the reference picture index
  • the figure shows an example in which reference pictures P1 and B2 are referred to by refIdxL0 and refIdxL1.
  • the prediction parameter decoding (encoding) method includes a merge prediction (merge) mode and an AMVP (Adaptive Motion Vector Prediction) mode.
  • the merge flag merge_flag is a flag for identifying these.
  • the merge prediction mode is a mode in which the prediction list use flag predFlagLX (or inter prediction identifier inter_pred_idc), the reference picture index refIdxLX, and the motion vector mvLX are not included in the encoded data and are derived from the prediction parameters of already processed neighboring PUs. .
  • the AMVP mode is a mode in which the inter prediction identifier inter_pred_idc, the reference picture index refIdxLX, and the motion vector mvLX are included in the encoded data.
  • the motion vector mvLX is encoded as a prediction vector index mvp_LX_idx for identifying the prediction vector mvpLX and a difference vector mvdLX.
  • the inter prediction identifier inter_pred_idc is a value indicating the type and number of reference pictures, and takes one of PRED_L0, PRED_L1, and PRED_BI.
  • PRED_L0 and PRED_L1 indicate that reference pictures managed by the reference picture lists of the L0 list and the L1 list are used, respectively, and that one reference picture is used (single prediction).
  • PRED_BI indicates that two reference pictures are used (bi-prediction BiPred), and reference pictures managed by the L0 list and the L1 list are used.
  • the prediction vector index mvp_LX_idx is an index indicating a prediction vector
  • the reference picture index refIdxLX is an index indicating a reference picture managed by the reference picture list.
  • LX is a description method used when L0 prediction and L1 prediction are not distinguished from each other. By replacing LX with L0 and L1, parameters for the L0 list and parameters for the L1 list are distinguished.
  • the merge index merge_idx is an index that indicates whether one of the prediction parameter candidates (merge candidates) derived from the processed PU is used as the prediction parameter of the decoding target PU.
  • the motion vector mvLX indicates a shift amount between blocks on two different pictures.
  • a prediction vector and a difference vector related to the motion vector mvLX are referred to as a prediction vector mvpLX and a difference vector mvdLX, respectively.
  • Inter prediction identifier inter_pred_idc and prediction list use flag predFlagLX The relationship between the inter prediction identifier inter_pred_idc and the prediction list use flags predFlagL0 and predFlagL1 is as follows and can be converted into each other.
  • the flag biPred as to whether it is a bi-prediction BiPred can be derived depending on whether the two prediction list use flags are both 1. For example, it can be derived by the following equation.
  • the flag biPred can also be derived depending on whether or not the inter prediction identifier is a value indicating that two prediction lists (reference pictures) are used. For example, it can be derived by the following equation.
  • FIG. 8 is a block diagram illustrating a configuration of the image decoding device 31 according to the present embodiment.
  • the image decoding apparatus 31 includes a NAL decoding unit 32, sub-picture decoding units 33a to 33n, and a picture synthesis unit 36.
  • the NAL decoding unit 32 decodes an encoded stream Te input from the outside and encoded in units of NAL (network abstraction layer) units.
  • the NAL decoding unit 32 transmits the encoded sub-picture sequence obtained by decoding the encoded stream Te to the sub-picture decoding units 33a to 33n. Further, the NAL decoding unit 32 transmits the sub-picture information and the like to the picture synthesis unit 36.
  • the sub-picture information is information indicating how a picture is divided and includes a sub-picture sequence parameter set SSPS and the like.
  • the sub-picture decoding units 33a to 33n each decode the sub-picture, and transmit the decoded sub-picture to the picture synthesis unit 36.
  • the sub-picture decoding units 33a to 33n perform the decoding process with the sub-picture sequence as one independent video sequence
  • the prediction information between the sub-picture sequences is temporally and spatially determined when performing the decoding process. Do not refer to. That is, the sub-picture decoding units 33a to 33n do not refer to a sub-picture of another sub-picture sequence when decoding a sub-picture in a certain picture.
  • each of the sub-picture decoding units 33a to 33n decodes a sub-picture, a plurality of sub-pictures can be decoded in parallel, or only one sub-picture can be decoded independently. As a result, according to the sub-picture decoding units 33a to 33n, the decoding process can be executed efficiently.
  • the picture synthesis unit 36 refers to the sub-picture information transmitted from the NAL decoding unit 32 and the sub-picture decoded by the sub-picture decoding units 33a to 33n, and generates and outputs a decoded image Td.
  • the picture synthesizing unit 36 can also generate and output a decoded image Td by synthesizing a plurality of decoded sub-pictures in a picture so as to be allowed to overlap each other.
  • the picture composition unit 36 may generate and output a sub-picture so that a gap is generated between the synthesized sub-pictures when the sub-picture is synthesized.
  • the image decoding device 31 can prevent the decoding process from being cut off at the boundary of the subpicture and the difference in image quality at the boundary of the subpicture from occurring. it can. As a result, a high-quality image can be obtained.
  • FIG. 9 is a block diagram showing a configuration of the sub-picture decoding unit 33a.
  • the sub-picture decoding unit 33a includes an entropy decoding unit 301, a prediction parameter decoding unit 302, a loop filter 305, a reference picture memory 306, a prediction parameter memory 307, a predicted image generation unit 308, an inverse quantization / inverse transformation unit 311, and an addition unit 312 is configured.
  • the prediction parameter decoding unit 302 includes an inter prediction parameter decoding unit 303 and an intra prediction parameter decoding unit 304.
  • the predicted image generation unit 308 includes an inter predicted image generation unit 309 and an intra predicted image generation unit 310.
  • the entropy decoding unit 301 performs entropy decoding on the encoded sub-picture, and separates and decodes individual codes (syntax elements).
  • the separated codes include prediction information for generating a prediction image, residual information for generating a difference image, and the like.
  • the entropy decoding unit 301 outputs a part of the separated code to the prediction parameter decoding unit 302. Some of the separated codes are, for example, the prediction mode predMode, the PU partition mode part_mode, the merge flag merge_flag, the merge index merge_idx, the inter prediction identifier inter_pred_idc, the reference picture index refIdxLX, the prediction vector index mvp_LX_idx, and the difference vector mvdLX. . Control of which code is decoded is performed based on an instruction from the prediction parameter decoding unit 302. The entropy decoding unit 301 outputs the quantized coefficient to the inverse quantization / inverse transform unit 311.
  • this quantization coefficient is applied to the residual signal by DCT (Discrete Cosine Transform), DST (Discrete Sine Transform), and KLT (Karyhnen Loeve Transform). This is a coefficient obtained by performing frequency conversion such as conversion) and quantizing.
  • the inter prediction parameter decoding unit 303 decodes the inter prediction parameter with reference to the prediction parameter stored in the prediction parameter memory 307 based on the code input from the entropy decoding unit 301.
  • the inter prediction parameter decoding unit 303 outputs the decoded inter prediction parameter to the prediction image generation unit 308 and stores it in the prediction parameter memory 307.
  • the intra prediction parameter decoding unit 304 refers to the prediction parameter stored in the prediction parameter memory 307 on the basis of the code input from the entropy decoding unit 301 and decodes the intra prediction parameter.
  • the intra prediction parameter is a parameter used in the process of predicting a CU within one picture, for example, an intra prediction mode IntraPredMode.
  • the intra prediction parameter decoding unit 304 outputs the decoded intra prediction parameter to the prediction image generation unit 308 and stores it in the prediction parameter memory 307.
  • the intra prediction parameter decoding unit 304 may derive different intra prediction modes for luminance and color difference.
  • the intra prediction parameter decoding unit 304 decodes the luminance prediction mode IntraPredModeY as the luminance prediction parameter and the color difference prediction mode IntraPredModeC as the color difference prediction parameter.
  • the luminance prediction mode IntraPredModeY is a 35 mode, and corresponds to planar prediction (0), DC prediction (1), and direction prediction (2 to 34).
  • the color difference prediction mode IntraPredModeC uses one of the planar prediction (0), the DC prediction (1), the direction prediction (2 to 34), and the LM mode (35).
  • the intra prediction parameter decoding unit 304 decodes a flag indicating whether IntraPredModeC is the same mode as the luminance mode.
  • the intra prediction parameter decoding unit 304 assigns IntraPredModeY to IntraPredModeC if it indicates that the flag is the same mode as the luminance mode. If the flag indicates that the flag is a mode different from the luminance mode, the intra prediction parameter decoding unit 304 sets the Plane prediction (0), DC prediction (1), direction prediction (2 to 34), and LM mode (35) as IntraPredModeC. May be decrypted.
  • the loop filter 305 applies filters such as a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) to the decoded image of the CU generated by the adding unit 312.
  • filters such as a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) to the decoded image of the CU generated by the adding unit 312.
  • the reference picture memory 306 stores the decoded image of the CU generated by the adding unit 312 in a predetermined position for each sub-picture to be decoded and for each CU.
  • the prediction parameter memory 307 stores the prediction parameter in a predetermined position for each decoding target picture and prediction unit (or sub-block, fixed-size block, pixel). Specifically, the prediction parameter memory 307 stores the inter prediction parameters decoded by the inter prediction parameter decoding unit 303. The prediction parameter memory 307 stores the intra prediction parameter decoded by the intra prediction parameter decoding unit 304 and the prediction mode predMode separated by the entropy decoding unit 301.
  • the stored inter prediction parameters include, for example, a prediction list utilization flag predFlagLX (inter prediction identifier inter_pred_idc), a reference picture index refIdxLX, and a motion vector mvLX.
  • the prediction image generation unit 308 receives the prediction mode predMode input from the entropy decoding unit 301 and the prediction parameter from the prediction parameter decoding unit 302. Further, the predicted image generation unit 308 reads a reference picture from the reference picture memory 306. The prediction image generation unit 308 generates a prediction image of a PU or sub-block using the input prediction parameter and the read reference picture (reference picture block) according to the prediction mode indicated by the prediction mode predMode.
  • the inter prediction image generation unit 309 uses the inter prediction parameter input from the inter prediction parameter decoding unit 303 and the read reference picture (reference picture block). To generate a prediction image of the PU or sub-block.
  • the inter prediction image generation unit 309 performs a motion vector on the basis of a decoding target PU from a reference picture indicated as a reference picture index refIdxLX for a reference picture list (L0 list or L1 list) whose prediction list use flag predFlagLX is 1
  • the reference picture block at the position indicated by mvLX is read from the reference picture memory 306.
  • the inter prediction image generation unit 309 performs prediction based on the read reference picture block to generate a prediction image of the PU.
  • the inter prediction image generation unit 309 outputs the generated prediction image of the PU to the addition unit 312.
  • the reference picture block is a set of pixels on the reference picture (usually called a block because it is a rectangle), and is an area that is referred to in order to generate a predicted image of a PU or sub-block.
  • the intra predicted image generation unit 310 When the prediction mode predMode indicates the intra prediction mode, the intra predicted image generation unit 310 performs intra prediction using the intra prediction parameter input from the intra prediction parameter decoding unit 304 and the read reference picture. Specifically, the intra predicted image generation unit 310 reads, from the reference picture memory 306, neighboring PUs that are pictures to be decoded and are in a predetermined range from the decoding target PUs among the PUs that have already been decoded.
  • the predetermined range is, for example, one of the left, upper left, upper, and upper right adjacent PUs when the decoding target PU sequentially moves in the so-called raster scan order, and varies depending on the intra prediction mode.
  • the raster scan order is an order in which each row is sequentially moved from the left end to the right end in each picture from the upper end to the lower end.
  • the intra prediction image generation unit 310 generates a prediction image of the PU by performing prediction based on the prediction mode indicated by the intra prediction mode IntraPredMode based on the read adjacent PU.
  • the intra predicted image generation unit 310 outputs the generated predicted image of the PU to the adding unit 312.
  • the intra prediction image generation unit 310 When the intra prediction parameter decoding unit 304 derives different intra prediction modes for luminance and color difference, the intra prediction image generation unit 310 performs planar prediction (0), DC prediction (1), and so on according to the luminance prediction mode IntraPredModeY. A prediction image of the luminance PU is generated by any one of the direction predictions (2 to 34). In addition, the intra prediction image generation unit 310 performs color difference PU according to any one of the planar prediction (0), the DC prediction (1), the direction prediction (2 to 34), and the LM mode (35) according to the color difference prediction mode IntraPredModeC. A predicted image is generated.
  • the inverse quantization / inverse transform unit 311 inversely quantizes the quantized coefficient input from the entropy decoding unit 301 to obtain a transform coefficient.
  • the inverse quantization / inverse transform unit 311 performs inverse frequency transform such as inverse DCT, inverse DST, and inverse KLT on the obtained transform coefficient, and calculates a residual signal.
  • the inverse quantization / inverse transform unit 311 outputs the calculated residual signal to the adder 312.
  • the addition unit 312 adds the prediction image of the PU input from the inter prediction image generation unit 309 or the intra prediction image generation unit 310 and the residual signal input from the inverse quantization / inverse conversion unit 311 for each pixel, Generate a decoded PU image.
  • the adding unit 312 stores the generated decoded image of the PU in the reference picture memory 306, and outputs a decoded image Td in which the generated decoded image of the PU is integrated for each picture to the outside.
  • FIG. 10 is a diagram illustrating an example of syntax included in each of the sequence parameter set SPS, the sub-picture sequence parameter set SSPS, and the picture parameter set PS.
  • FIG. 11 is a diagram illustrating a table indicating values of SubWidthC and SubHeightC derived from chroma_format_idc.
  • FIG. 12 is a diagram illustrating a correspondence relationship between an example of syntax included in the sub-picture sequence parameter set SSPS and each part in the picture.
  • the picture synthesis unit 36 synthesizes a plurality of sub-pictures so as to be allowed to overlap each other by referring to the syntax included in the sub-picture sequence parameter set SSPS as shown in FIG. Also good.
  • the picture composition unit 36 may fill it with a predetermined pixel value. For the overlapped pixels, the picture composition unit 36 may use a weighted average value of pixel values at the same pixel position between sub-pictures. When three or more pixels overlap, the picture composition unit 36 may compose using a value selected from a plurality of median values or median values.
  • sub-pictures can be decoded in parallel and independently efficiently in units of sub-picture sequences. As a result, it is possible to prevent the encoding / decoding process from being cut off at the boundary of the sub picture and causing a difference in image quality at the boundary of the sub picture. As a result, a high-quality image can be obtained.
  • pic_width_in_luma_samples and pic_height_in_luma_samples respectively indicate the width and height of the luminance sample of the picture.
  • conformance_window_flag is a flag indicating whether conf_win_left_offset, conf_win_right_offset, conf_win_top_offset, and conf_win_bottom_offset that define the output range (conformance window) of a picture appear in the encoded data. When the flag is 0, these values do not appear in the encoded data, and conf_win_left_offset, conf_win_right_offset, conf_win_top_offset, and conf_win_bottom_offset are each derived as 0.
  • conf_win_left_offset, conf_win_right_offset, conf_win_top_offset, and conf_win_bottom_offset are the offset from the left edge of the decoded picture to the left edge of the conformance window, the offset from the right edge of the decoded picture to the right edge of the conformance window, and from the top edge of the decoded picture to the top edge of the conformance window, respectively.
  • Offset offset from the lower end of the decoded picture to the lower end of the conformance window.
  • the decoded picture sizes pic_width_in_luma_samples and pic_height_in_luma_samples are preferably an integer multiple of 8, 16, 32, or an integer multiple of MinCbSizeY, which is the minimum CTU size, in terms of processing efficiency.
  • MinCbSizeY which is the minimum CTU size
  • the sizes of decoded pictures pic_width_in_luma_samples and pic_height_in_luma_samples may not be integer multiples of 8, 16, 32, and the like.
  • the picture composition unit 36 uses a conformance window, even a video whose actual size (output size) is not an integral multiple of these can be decoded.
  • sub_pic_left_position is information describing the position of the leftmost pixel of the subpicture
  • sub_pic_top_position is information describing the position of the uppermost pixel of the subpicture.
  • sub_pic_left_position * SubWidthC indicates the position of the luminance pixel at the left end of the sub-picture.
  • sub_pic_top_position * SubHightC indicates the position of the luminance pixel at the upper end of the sub-picture.
  • SubWidthC and SubHightC are derived from chroma_format_idc shown in FIG.
  • Each value in the Chroma format in FIG. 11 indicates a value depending on the sample structure of the color difference pixels in the horizontal direction and the vertical direction.
  • the picture composition unit 36 synthesizes a plurality of sub-pictures with reference to the syntax indicating the position of the sub-picture such as the above-described sub_pic_left_position and sub_pic_top_position. As a result, the position of the sub-picture to be synthesized can be specified.
  • sub_pic_width_in_luma_samples indicates the luminance sample width of the sub-picture as shown in FIG. 12.
  • sub_pic_width_in_luma_samples must be non-zero and an integer multiple of MinCbSizeY, which is the minimum CTU size.
  • sub_pic_height_in_luma_samples indicates the height of the sub-picture brightness sample as shown in FIG. 12.
  • sub_pic_height_in_luma_samples must be non-zero and an integer multiple of MinCbSizeY.
  • the picture synthesis unit 36 synthesizes a plurality of sub-pictures with reference to the syntax indicating the size of the sub-picture such as the above-described sub_pic_width_in_luma_samples and sub_pic_height_in_luma_samples. Thereby, the size of the sub-picture to be synthesized can be specified.
  • Disp_win_flag in FIG. 10 indicates whether or not display cropping window offset parameters that are parameters for displaying the pixels in the sub-picture are present.
  • the value of disp_win_flag is 1, it means that display cropping window offset parameters exist.
  • Examples of display cropping window offset parameters include disp_win_left_offset, disp_win_right_offset, disp_win_top_offset, and disp_win_bottom_offset.
  • the values of disp_win_left_offset, disp_win_right_offset, disp_win_top_offset, and disp_win_bottom_offset are set to 0. In other words, when the value of disp_win_flag is 0, it means that display cropping window offset parameters do not exist.
  • Disp_win_left_offset in FIG. 10 indicates an offset from the left end of the sub-picture.
  • Disp_win_right_offset in FIG. 10 indicates an offset from the right end of the sub-picture.
  • Disp_win_top_offset in FIG. 10 indicates an offset from the upper end of the sub-picture.
  • Disp_win_bottom_offset in FIG. 10 indicates an offset from the lower end of the sub-picture.
  • disp_win_left_offset, disp_win_right_offset, disp_win_top_offset, and disp_win_bottom_offset indicate the rectangular area of the sub-picture that is actually displayed, as shown in FIG.
  • the display “cropping” window area in the horizontal direction is an area from disp_win_left_offset * SubWidthC to sub_pic_width_in_luma_samples-(disp_win_right_offset * SubWidthC + 1).
  • the area of display cropping ⁇ window is an area from disp_win_top_offset * SubHeightC in the vertical direction to sub_pic_height_in_luma_samples-(disp_win_bottom_offset * SubHeightC + 1).
  • the picture composition unit 36 calculates an average value of pixel values of a plurality of sub-pictures in the overlap portion as a pixel value of the overlap portion. May be.
  • the picture composition unit 36 may set the pixel values of the overlapping portions of the plurality of subpictures as weighted average values according to the quantization parameter.
  • the picture composition unit 36 may perform a filtering process on the overlapping portions of the plurality of sub-pictures. As a result, it is possible to remove coding distortion from overlapping portions of a plurality of subpictures.
  • the value of (disp_win_left_offset + disp_win_right_offset) * SubWidthC must be smaller than the value of sub_pic_width_in_luma_samples.
  • the value of (disp_win_top_offsetoff + disp_win_bottom_offset) * SubHeightC must be smaller than the value of sub_pic_height_in_luma_samples.
  • the picture synthesis unit 36 synthesizes a plurality of sub-pictures with reference to the syntax indicating the offset of the sub-picture such as disp_win_left_offset, disp_win_right_offset, disp_win_top_offset, and disp_win_bottom_offset described above. As a result, the offset of the sub-picture to be synthesized can be specified.
  • the picture composition unit 36 may use a sub-picture conformance window (disp_win_left_offset, disp_win_right_offset, disp_win_top_offset, and disp_win_bottom_offset).
  • a sub-picture conformance window disp_win_left_offset, disp_win_right_offset, disp_win_top_offset, and disp_win_bottom_offset.
  • the screen may be divided into faces, and can be efficiently encoded by matching tiles (sub-pictures) in accordance with the faces.
  • various tile (sub-picture) sizes may be used. In this case, the sub-block size can be freely set.
  • the picture compositing unit 36 needs to decode the sub picture in the size of the following sub block in the raster scan order from the upper left in order to set the size of the sub picture to an integer multiple of MinCbSizeY of 8.
  • the picture composition unit 36 may decode the sub picture by setting the decoding size of the sub picture to 480 ⁇ 272 and the output size of 480 ⁇ 270. Thereby, all can be divided by sub-pictures of the same size as follows.
  • the values of disp_win_left_offse, disp_win_right_offset, and disp_win_top_offset can be set to 0, and the value of disp_win_bottom_offset can be set to 2.
  • 640x544 may be the decoding size of each sub-block and 640x540 may be the output size of each sub-block.
  • the size of the sub-block and the size of the face can be completely matched.
  • the values of disp_win_left_offse, disp_win_right_offset, and disp_win_top_offset can be set to 0, and the value of disp_win_bottom_offset can be set to 4.
  • each sub-picture is independently encoded / decoded
  • the reference image at a position beyond each sub-picture cannot be used, so that the image quality of the boundary portion of the decoded image of each sub-picture may be lowered.
  • the picture composition unit 36 may output a part of the generated decoded image as a conformance window in units of pictures. That is, the picture composition unit 36 has a sub-picture unit conformance window syntax (disp_win_left_offset, disp_win_right_offset, disp_win_top_offset and disp_win_bottom_offset), and a picture unit conformance window syntax (conf_win_left_offset, conf_win_right_offset, conf_win_top_set_conf_win_top_set_conf_win_top_A decoded image may be generated by decoding the encoded data, and an output image may be output. As a result, it is possible to freely set the size of each sub-picture without depending on the processing unit (for example, MinCbSizeY), and freely set the size of the picture without depending on the processing unit.
  • the processing unit for example, MinCbSizeY
  • the syntax referred to by the picture composition unit 36 is not limited to the above example.
  • the picture composition unit 36 may be configured to refer to syntax included in the sequence parameter set SPS.
  • FIG. 13 is a diagram showing another example of syntax included in the sequence parameter set SPS.
  • FIG. 14 is a diagram illustrating a correspondence relationship between another example of the syntax and each part in the picture.
  • sub_picture_enable_flag in FIG. 13 is a flag indicating whether or not a sub-picture is usable, that is, whether or not a sub-picture exists in the picture.
  • the value of sub_picture_enable_flag is 1, it means that a sub picture exists in the picture. Further, when the value of sub_picture_enable_flag is 0, it means that there is no sub picture.
  • the value obtained by adding 1 to the value of num_sub_picture_hor_minus1 in FIG. 13 indicates the number of sub-pictures in the horizontal direction.
  • a value obtained by adding 1 to the value of num_sub_picture_var_minus1 indicates the number of sub-pictures in the vertical direction.
  • “Uniform_spacing_flag” is a flag indicating whether or not the value of each syntax is explicitly indicated. If the value is 0, the value of each syntax is explicitly shown. When the value is 1, the value of each syntax is implicitly calculated by a method described later.
  • Sub_pic_width_in_luma_samples [i] indicates the width of the sub-picture brightness sample.
  • the value of sub_pic_width_in_luma_samples [i] is not 0, but takes a value that is a minimum integer multiple of MinCbSizeY exceeding pic_width_in_luma_samples / (num_sub_picture_hor_minus1 + 1).
  • Sub_pic_height_in_luma_samples [i] indicates the height of the sub-picture brightness sample.
  • the value of sub_pic_height_in_luma_samples [i] is not 0, but takes a value that is a minimum integer multiple of MinCbSizeY exceeding pic_height_in_luma_samples / (num_sub_picture_var_minus1 + 1).
  • Sub_pic_left_position [i] is information describing the position of the leftmost pixel of the subpicture
  • sub_pic_top_position [i] is information describing the position of the uppermost pixel of the subpicture.
  • SubWidthC indicates the position of the luminance pixel at the left end of the sub-picture
  • sub_pic_top_position [i] * SubHightC indicates the position of the luminance pixel at the upper end of the sub-picture.
  • sub_pic_left_position [i] is a minimum integer equal to or greater than i * (pic_width_in_luma_samples / ((num_sub_picture_hor_minus1 + 1) * SubWidthC)).
  • sub_pic_top_position [i] is i * (pic_height_in_luma_samples / ((num_sub_picture_var_minus1 + 1) * SubHeightC)) The smallest integer above.
  • Disp_win_hor_flag [i] and disp_win_ver_flag [i] described later are set to 0.
  • sub_pic_left_position [i] is a specific value that is greater than or equal to 0 and smaller than i * (pic_width_in_luma_samples / ((num_sub_picture_hor_minus1 + 1) * SubWidthC)) and greater than or equal to 0 and MinCbSizeY / SubWidthC-1
  • the value may be a value obtained by subtracting the value.
  • sub_pic_left_position [i] is a value obtained by subtracting a specific value from 0 to MinCbSizeY / SubHeightCight- 1 from the smallest integer greater than or equal to i * (pic_height_in_luma_samples / ((num_sub_picture_var_minus1 + 1) * SubHeightC)). May be.
  • i in sub_pic_width_in_luma_samples [i] is a number indicating each sub-picture in the horizontal direction.
  • the sub-picture sequence parameter set SSPS (FIG. 10) in the first embodiment is assigned in units of sub-picture sequences.
  • the target sequence of the sequence parameter set SPS includes a plurality of sub-picture sequences, in this modification, the syntax for each sub-picture has an array structure.
  • an example will be described in which an 8K ⁇ 4K picture having a pic_width_in_luma_samples value of 7680 and a pic_height_in_luma_samples of 4320 is vertically and horizontally divided. Also assume that sub_picture_enable_flag is 1 and MinCbSizeY is 64.
  • num_sub_picture_hor_minus1 is 1
  • num_sub_picture_ver_minus1 is 1.
  • Each of disp_win_hor_flag [i] and disp_win_ver_flag [i] in FIG. 13 indicates whether or not display window offset parameters for displaying pixels in the horizontal direction and the vertical direction in the sub-picture exist.
  • Examples of display window offset parameters include disp_win_left_offset [i], disp_win_right_offset [i], disp_win_top_offset, and disp_win_bottom_offset [i].
  • disp_win_hor_flag [i] If the value of disp_win_hor_flag [i] is 1, disp_win_left_offset [i] and disp_win_right_offset [i] exist. When the value of disp_win_hor_flag [i] is 0, the values of disp_win_top_offset [i] and disp_win_bottom_offset [i] are 0. In other words, if the value of disp_win_hor_flag [i] is 0, it means that display window offset parameters in the horizontal direction do not exist.
  • disp_win_ver_flag [i] when the value of disp_win_ver_flag [i] is 1, disp_win_top_offset [i] and disp_win_bottom_offset [i] exist.
  • the value of disp_win_ver_flag [i] is 0, the values of disp_win_top_offset [i] and disp_win_bottom_offset [i] are 0.
  • the value of disp_win_ver_flag [i] it means that display window offset parameters in the vertical direction do not exist.
  • Disp_win_left_offset [i] disp_win_right_offset [i] disp_win_top_offset [i], and disp_win_bottom_offset [i] define a rectangular area for displaying a sub-picture.
  • the horizontal display cropping window area is sub_pic_left_position [i] * SubWidthC + disp_win_left_offset [i] * SubWidthC to sub_pic_left_position [i] * SubWidthC + sub_pic_width_in_luma_samples [i]- Become.
  • the area of display cropping ⁇ ⁇ ⁇ ⁇ window in the vertical direction is sub_pic_top_position [i] * SubHeightC + disp_win_top_offset [i] * SubHeightC to sub_pic_top_position [i] * SubHeightC + sub_pic_height_in_luma_samples [i]-__ It becomes an area.
  • the picture composition unit 36 refers to the padding value of the picture for the area arranged outside the picture.
  • the decoding process can be executed efficiently.
  • FIG. 5 is a block diagram illustrating a configuration of the image encoding device 11 according to the present embodiment.
  • the image encoding device 11 includes a picture dividing unit 12, sub-picture encoding units 13a to 13n, and a NAL generating unit 16.
  • the picture dividing unit 12 divides the image T (picture) into a plurality of sub-pictures set in each image T and allowed to overlap each other, and the sub-pictures are sub-picture encoding units 13a to 13n. Transmit to.
  • the picture dividing unit 12 generates sub-picture information and transmits the sub-picture information to the NAL generating unit 16.
  • the sub-picture encoding units 13a to 13n encode sub-pictures, respectively. Also, the sub-picture encoding units 13a to 13n encode sub-pictures in units of sub-picture sequences. As described above, according to the sub-picture encoding units 13a to 13n, sub-pictures can be efficiently encoded in parallel.
  • the sub-picture encoding units 13a to 13n perform encoding processing as one independent video sequence, and prediction information between the sub-picture sequences is temporally and spatially determined when performing the encoding processing. Do not refer. That is, the sub-picture encoding units 13a to 13n do not refer to another sub-picture when encoding a sub-picture in a certain picture.
  • the NAL generating unit 16 encodes the sub-picture information transmitted from the picture dividing unit 12 and the sub-picture encoding units 13a to 13n, and generates an encoded stream Te in units of NAL units.
  • the image encoding device 11 since the picture is divided into a plurality of subpictures that are allowed to overlap each other, the end of each subpicture is not obtained because the accurate motion vector cannot be obtained. It is possible to prevent a difference in the image quality of the images. Further, according to the image encoding device 11, when sub-pictures are combined in the image decoding device, it is possible to prevent a difference in image quality from occurring at the boundary between the sub-pictures. As a result, the image encoding device 11 can obtain a high-quality image.
  • FIG. 6 is a block diagram showing a configuration of the sub-picture encoding unit 13a.
  • the sub-picture encoding unit 13a includes a prediction image generation unit 101, a subtraction unit 102, a transform / quantization unit 103, an entropy encoding unit 104, an inverse quantization / inverse transform unit 105, an addition unit 106, a loop filter 107, a prediction parameter.
  • a memory (prediction parameter storage unit, frame memory) 108, a reference picture memory (reference image storage unit, frame memory) 109, an encoding parameter determination unit 110, and a prediction parameter encoding unit 111 are configured.
  • the prediction parameter encoding unit 111 includes an inter prediction parameter encoding unit 112 and an intra prediction parameter encoding unit 113.
  • the predicted image generation unit 101 generates, for each picture of the image T, a predicted image P of the prediction unit PU for each encoding unit CU that is an area obtained by dividing the picture.
  • the predicted image generation unit 101 reads a decoded block from the reference picture memory 109 based on the prediction parameter input from the prediction parameter encoding unit 111.
  • the prediction parameter input from the prediction parameter encoding unit 111 is, for example, a motion vector in the case of inter prediction.
  • the predicted image generation unit 101 reads a block at a position on the reference picture indicated by the motion vector with the target PU as a starting point.
  • the prediction parameter is, for example, an intra prediction mode.
  • the pixel value of the adjacent PU used in the intra prediction mode is read from the reference picture memory 109, and the predicted image P of the PU is generated.
  • the predicted image generation unit 101 generates a predicted image P of the PU using one prediction method among a plurality of prediction methods for the read reference picture block.
  • the predicted image generation unit 101 outputs the generated predicted image P of the PU to the subtraction unit 102.
  • FIG. 7 is a block diagram illustrating a configuration of an inter predicted image generation unit 1011 included in the predicted image generation unit 101.
  • the inter prediction image generation unit 1011 includes a motion compensation unit 10111 and a weight prediction unit 10112. Since the motion compensation unit 10111 and the weight prediction unit 10112 have the same configurations as the motion compensation unit 3091 and the weight prediction unit 3094 described above, description thereof is omitted here.
  • the prediction image generation unit 101 generates a prediction image P of the PU based on the pixel value of the reference block read from the reference picture memory, using the parameter input from the prediction parameter encoding unit.
  • the predicted image generated by the predicted image generation unit 101 is output to the subtraction unit 102 and the addition unit 106.
  • the subtraction unit 102 subtracts the signal value of the predicted image P of the PU input from the predicted image generation unit 101 from the pixel value of the corresponding PU of the image T, and generates a residual signal.
  • the subtraction unit 102 outputs the generated residual signal to the transform / quantization unit 103.
  • the transform / quantization unit 103 performs frequency transform on the residual signal input from the subtraction unit 102 and calculates a transform coefficient.
  • the transform / quantization unit 103 quantizes the calculated transform coefficient to obtain a quantized coefficient.
  • the transform / quantization unit 103 outputs the obtained quantization coefficient to the entropy coding unit 104 and the inverse quantization / inverse transform unit 105.
  • the entropy encoding unit 104 receives the quantization coefficient from the transform / quantization unit 103 and receives the encoding parameter from the prediction parameter encoding unit 111.
  • Examples of input encoding parameters include codes such as a reference picture index refIdxLX, a prediction vector index mvp_LX_idx, a difference vector mvdLX, a prediction mode predMode, and a merge index merge_idx.
  • the entropy encoding unit 104 generates an encoded stream Te by entropy encoding the input quantization coefficient and encoding parameter, and outputs the generated encoded stream Te to the outside.
  • the inverse quantization / inverse transform unit 105 inversely quantizes the quantization coefficient input from the transform / quantization unit 103 to obtain a transform coefficient.
  • the inverse quantization / inverse transform unit 105 performs inverse frequency transform on the obtained transform coefficient to calculate a residual signal.
  • the inverse quantization / inverse transform unit 105 outputs the calculated residual signal to the addition unit 106.
  • the addition unit 106 adds the signal value of the prediction image P of the PU input from the prediction image generation unit 101 and the signal value of the residual signal input from the inverse quantization / inverse conversion unit 105 for each pixel, and performs decoding. Generate an image.
  • the adding unit 106 stores the generated decoded image in the reference picture memory 109.
  • the loop filter 107 performs a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) on the decoded image generated by the adding unit 106.
  • SAO sample adaptive offset
  • ALF adaptive loop filter
  • the prediction parameter memory 108 stores the prediction parameter generated by the encoding parameter determination unit 110 at a predetermined position for each encoding target picture and CU.
  • the reference picture memory 109 stores the decoded image generated by the loop filter 107 at a predetermined position for each picture to be encoded and each CU.
  • the encoding parameter determination unit 110 selects one set from among a plurality of sets of encoding parameters.
  • the encoding parameter is a parameter to be encoded that is generated in association with the above-described prediction parameter or the prediction parameter.
  • the predicted image generation unit 101 generates a predicted image P of the PU using each of these encoding parameter sets.
  • the encoding parameter determination unit 110 calculates a cost value indicating the amount of information and the encoding error for each of a plurality of sets.
  • the cost value is, for example, the sum of a code amount and a square error multiplied by a coefficient ⁇ .
  • the code amount is the information amount of the encoded stream Te obtained by entropy encoding the quantization error and the encoding parameter.
  • the square error is the sum between pixels regarding the square value of the residual value of the residual signal calculated by the subtracting unit 102.
  • the coefficient ⁇ is a real number larger than a preset zero.
  • the encoding parameter determination unit 110 selects a set of encoding parameters that minimizes the calculated cost value.
  • the entropy encoding unit 104 outputs the selected set of encoding parameters to the outside as the encoded stream Te, and does not output the set of unselected encoding parameters.
  • the encoding parameter determination unit 110 stores the determined encoding parameter in the prediction parameter memory 108.
  • the prediction parameter encoding unit 111 derives a format for encoding from the parameters input from the encoding parameter determination unit 110 and outputs the format to the entropy encoding unit 104. Deriving the format for encoding is, for example, deriving a difference vector from a motion vector and a prediction vector. Also, the prediction parameter encoding unit 111 derives parameters necessary for generating a prediction image from the parameters input from the encoding parameter determination unit 110 and outputs the parameters to the prediction image generation unit 101.
  • the parameter necessary for generating the predicted image is, for example, a motion vector in units of sub-blocks.
  • the inter prediction parameter encoding unit 112 derives an inter prediction parameter such as a difference vector based on the prediction parameter input from the encoding parameter determination unit 110.
  • the inter prediction parameter encoding unit 112 derives parameters necessary for generating a prediction image to be output to the prediction image generating unit 101, and an inter prediction parameter decoding unit 303 (see FIG. 9 and the like) derives inter prediction parameters. Including the same configuration as that of
  • the intra prediction parameter encoding unit 113 derives a format (for example, MPM_idx, rem_intra_luma_pred_mode) for encoding from the intra prediction mode IntraPredMode input from the encoding parameter determination unit 110.
  • a format for example, MPM_idx, rem_intra_luma_pred_mode
  • the image encoding device 11 and the image decoding device 31 perform encoding / decoding processing in units of sub-picture sequences.
  • sub-sequences in units of pictures are performed.
  • a picture may be encoded and decoded.
  • Embodiment 2 will be described with reference to FIGS.
  • members having the same functions as those described in the first embodiment are denoted by the same reference numerals and description thereof is omitted.
  • FIG. 24 is a schematic diagram illustrating a configuration of the image transmission system 2 according to the second embodiment.
  • the image transmission system 2 includes an image encoding device 17 and an image decoding device 37 instead of the image encoding device 11 and the image decoding device 31 in the first embodiment. Except for this point, the image transmission system 2 has the same configuration as the image transmission system 1.
  • FIG. 15 is a diagram illustrating a hierarchical structure of the encoded stream Te in the second embodiment.
  • the encoded stream Te illustratively includes a sequence and a plurality of pictures constituting the sequence.
  • FIG. 15A shows an encoded video sequence that defines the sequence SEQ.
  • FIG. 15B is a diagram illustrating an encoded picture that defines the picture PICT. Note that (c) to (g) in FIG. 15 are the same as (c) to (g) in FIG.
  • the encoded video sequence In the encoded video sequence, a set of data referred to by the image decoding device 31 for decoding the sequence SEQ to be processed is defined. As shown in FIG. 15A, the sequence SEQ includes a video parameter set VPS, a sequence parameter set SPS, a sub-picture sequence parameter set SSPS, a picture parameter set PPS, a picture PICT, and additional extension information SEI. .
  • the value indicated after # indicates the layer ID.
  • FIG. 15 shows an example in which encoded data of # 0 and # 1, that is, layer 0 and layer 1, exists, but the type of layer and the number of layers are not dependent on this.
  • the picture PICT includes subpictures SPICT 0 to SPICT NSP-1 (NSP is the total number of subpictures included in the picture PICT).
  • the total number of sub-pictures may be defined by a restriction due to the capability of the image decoding device 37 defined by a profile, a level, or the like.
  • FIG. 18 is a block diagram illustrating a configuration of the image decoding device 37 according to the present embodiment.
  • the image decoding device 37 includes sub-picture decoding units 38a to 38n and a picture synthesis unit 39 instead of the sub-picture decoding units 33a to 33n and the picture synthesis unit 36 in the first embodiment. Except for these points, the image decoding device 37 has the same configuration as the image decoding device 31.
  • the sub-picture decoding units 38a to 38n decode the encoded stream related to the sub-picture into each sub-picture.
  • the sub-picture decoding units 38a to 38n perform decoding processing as one independent picture instead of one independent video sequence. Further, the sub-picture decoding units 38a to 38n do not refer to prediction information between sub-pictures in the spatial direction, but may refer to prediction information between sub-pictures in the temporal direction. Thereby, according to the sub picture decoding units 38a to 38n, it is possible to decode the sub picture more efficiently than the sub picture decoding units 33a to 33n.
  • the picture synthesizing unit 39 synthesizes a plurality of subpictures decoded by the subpicture decoding units 38a to 38n into a picture in a decoding loop so as to be allowed to overlap each other, and generates a reference picture (a plurality of subpictures). A picture obtained by combining pictures).
  • the sub-picture decoding units 38a to 38n refer to the reference picture generated by the picture synthesis unit 39 and decode each sub-picture.
  • the picture synthesis unit 39 synthesizes each decoded sub-picture in a decoding loop to generate a decoded image Td.
  • the picture synthesizing unit 39 synthesizes a once-decoded sub picture into a picture
  • the sub picture decoding units 38a to 38n refer to the picture to generate a sub picture. Decode a picture.
  • the image decoding device 37 can efficiently decode sub-pictures in parallel and independently in units of pictures.
  • FIG. 19 is a block diagram showing a configuration of the sub-picture decoding unit 38a.
  • the sub-picture decoding unit 38a does not include the reference picture memory 306 in the sub-picture decoding unit 33a of the first embodiment, and includes a predicted image generation unit 313 instead of the predicted image generation unit 308 of the first embodiment. Except for this point, the sub-picture decoding unit 38a has the same configuration as the sub-picture decoding unit 33a.
  • the predicted image generation unit 313 generates a reference picture generated by combining a sub-picture by the picture combining unit 39 instead of the reference picture stored in the reference picture memory 306 according to the first embodiment. To generate a predicted image. Except for this point, the predicted image generation unit 313 generates a predicted image in the same manner as the predicted image generation unit 308.
  • the predicted image generation unit 313 can generate a predicted image in the same manner as the predicted image generation unit 308. .
  • FIG. 20 is a diagram illustrating an example of syntax included in the picture parameter set PPS referred to by the picture composition unit 39.
  • the picture composition unit 39 refers to the syntax included in the picture parameter set PPS as shown in FIG. Subsequently, the picture synthesis unit 39 synthesizes a plurality of sub-pictures into the picture so as to be allowed to overlap each other.
  • the picture composition unit 36 may fill with a predetermined pixel value.
  • the picture composition unit 36 may use a weighted average value of pixel values at the same pixel position between sub-pictures for overlapping pixels.
  • the picture synthesis unit 36 may synthesize using a value selected from a plurality of median values or median values.
  • the same method is used on the encoding side and the decoding side.
  • a plurality of methods may be switched by preparing a specific syntax by the picture parameter set PPS.
  • the syntaxes shown in FIG. 20 are the same as the syntaxes included in the sub-picture sequence parameter set SSPS or the sequence parameter set SPS of Embodiment 1 except that they are included in the picture parameter set PPS. It is the same.
  • the picture synthesis unit 39 synthesizes a plurality of sub-pictures with reference to the syntax indicating the position of the sub-picture included in the picture parameter set PPS. As a result, the position of the sub-picture to be synthesized can be specified.
  • the picture synthesis unit 39 synthesizes a plurality of subpictures with reference to the syntax indicating the size of the subpicture included in the picture parameter set PPS. Thereby, the size of the sub-picture to be synthesized can be specified.
  • the picture composition unit 39 synthesizes a plurality of sub-pictures with reference to the syntax indicating the sub-picture offset included in the picture parameter set PPS. As a result, the offset of the sub-picture to be synthesized can be specified.
  • FIG. 16 is a block diagram showing the configuration of the image encoding device 17 according to this embodiment.
  • the image encoding device 17 includes sub-picture encoding units 18a to 18n instead of the sub-picture encoding units 13a to 13n in the first embodiment, and further includes a picture synthesis unit 19. Except for these points, the image encoding device 17 has the same configuration as the image encoding device 11.
  • the sub-picture encoding units 18a to 18n encode sub-pictures that are allowed to overlap each other.
  • the sub-picture encoding units 18a to 18n unlike 13a to 13n in the first embodiment, perform encoding processing as one independent picture instead of one independent video sequence.
  • the sub-picture encoding units 18a to 18n do not refer to prediction information between sub-pictures in the spatial direction, but may refer to prediction information between sub-pictures in the temporal direction. Thereby, according to the sub-picture encoding units 18a to 18n, it is possible to encode the sub-picture more efficiently than the sub-picture encoding units 13a to 13n.
  • the picture composition unit 19 synthesizes the locally decoded sub-pictures to generate a reference picture.
  • the sub-picture encoding units 18 a to 18 n refer to the reference pictures generated by the picture synthesis unit 19, encode the sub-pictures, respectively, and transmit them to the NAL generation unit 16.
  • the NAL generating unit 16 encodes an encoded stream encoded in units of NAL units from the sub-picture information transmitted from the picture dividing unit 12 and the encoded sub-pictures encoded by the sub-picture encoding units 18a to 18n. Generate Te.
  • the picture synthesizing unit 19 synthesizes the sub-pictures once encoded, and the reference pictures are encoded with reference to the sub-picture encoding units 18a to 18n.
  • the image encoding device 17 can efficiently encode sub-pictures in units of pictures in parallel and independently.
  • FIG. 17 is a block diagram illustrating a configuration of the sub-picture encoding unit 18a.
  • the sub-picture encoding unit 18a does not include the reference picture memory 109 in the first embodiment, and includes a predicted image generation unit 114 instead of the predicted image generation unit 101 in the first embodiment. Except for this point, the predicted image generation unit 114 has the same configuration as the predicted image generation unit 101.
  • the predicted image generation unit 114 refers to the reference picture generated by the picture synthesis unit 19 instead of reading the decoded block stored in the reference picture memory 109 in the first embodiment. Generate a predicted image.
  • the prediction image generation unit 114 can generate a prediction image in the same manner as the prediction image generation unit 101 by referring to the reference picture generated by the picture synthesis unit 19.
  • encoding parameter determination unit 110 and the prediction parameter encoding unit 111 may be realized by a computer.
  • the program for realizing the control function may be recorded on a computer-readable recording medium, and the program recorded on the recording medium may be read by the computer system and executed.
  • the “computer system” is a computer system built in any of the image encoding devices 11 and 17 and the image decoding devices 31 and 37, and includes hardware such as an OS and peripheral devices.
  • the “computer-readable recording medium” refers to a storage device such as a portable medium such as a flexible disk, a magneto-optical disk, a ROM, a CD-ROM, or a hard disk built in a computer system.
  • the “computer-readable recording medium” is a medium that dynamically holds a program for a short time, such as a communication line when transmitting a program via a network such as the Internet or a communication line such as a telephone line,
  • a volatile memory inside a computer system that serves as a server or a client may be included that holds a program for a certain period of time.
  • the program may be a program for realizing a part of the functions described above, and may be a program that can be realized by a combination with a program already recorded in the computer system.
  • part or all of the image encoding devices 11 and 17 and the image decoding devices 31 and 37 in the above-described embodiment may be realized as an integrated circuit such as an LSI (Large Scale Integration).
  • LSI Large Scale Integration
  • Each functional block of the image encoding devices 11 and 17 and the image decoding devices 31 and 37 may be individually made into a processor, or a part or all of them may be integrated into a processor.
  • the method of circuit integration is not limited to LSI, and may be realized by a dedicated circuit or a general-purpose processor.
  • an integrated circuit based on the technology may be used.
  • the image encoding devices 11 and 17 and the image decoding devices 31 and 37 described above can be used by being mounted on various devices that perform transmission, reception, recording, and reproduction of moving images.
  • the moving image may be a natural moving image captured by a camera or the like, or may be an artificial moving image (including CG and GUI) generated by a computer or the like.
  • the image encoding devices 11 and 17 and the image decoding devices 31 and 37 described above can be used for transmission and reception of moving images.
  • FIG. 21 is a block diagram showing a configuration of a transmission device PROD_A in which the image encoding devices 11 and 17 are mounted.
  • the transmission apparatus PROD_A modulates a carrier wave with an encoding unit PROD_A1 that obtains encoded data by encoding a moving image, and with the encoded data obtained by the encoding unit PROD_A1.
  • a modulation unit PROD_A2 that obtains a modulation signal and a transmission unit PROD_A3 that transmits the modulation signal obtained by the modulation unit PROD_A2 are provided.
  • the above-described image encoding devices 11 and 17 are used as the encoding unit PROD_A1.
  • Transmission device PROD_A as a source of moving images to be input to the encoding unit PROD_A1, a camera PROD_A4 that captures moving images, a recording medium PROD_A5 that records moving images, an input terminal PROD_A6 for inputting moving images from the outside, and An image processing unit A7 that generates or processes an image may be further provided.
  • FIG. 21A illustrates a configuration in which the transmission apparatus PROD_A includes all of these, but a part of the configuration may be omitted.
  • the recording medium PROD_A5 may be a recording of a non-encoded moving image, or a recording of a moving image encoded by a recording encoding scheme different from the transmission encoding scheme. It may be a thing. In the latter case, a decoding unit (not shown) for decoding the encoded data read from the recording medium PROD_A5 in accordance with the recording encoding method may be interposed between the recording medium PROD_A5 and the encoding unit PROD_A1.
  • FIG. 21 is a block diagram showing a configuration of the receiving device PROD_B in which the image decoding devices 31 and 37 are mounted.
  • the reception device PROD_B includes a reception unit PROD_B1 that receives a modulation signal, a demodulation unit PROD_B2 that obtains encoded data by demodulating the modulation signal received by the reception unit PROD_B1, A decoding unit PROD_B3 that obtains a moving image by decoding the encoded data obtained by the unit PROD_B2.
  • the above-described image decoding devices 31 and 37 are used as the decoding unit PROD_B3.
  • the receiving device PROD_B is a display destination PROD_B4 for displaying a moving image, a recording medium PROD_B5 for recording a moving image, and an output terminal for outputting the moving image to the outside as a supply destination of the moving image output by the decoding unit PROD_B3 PROD_B6 may be further provided.
  • FIG. 21B illustrates a configuration in which all of these are provided in the receiving device PROD_B, but some of them may be omitted.
  • the recording medium PROD_B5 may be for recording a non-encoded moving image, or is encoded by a recording encoding method different from the transmission encoding method. May be. In the latter case, an encoding unit (not shown) for encoding the moving image acquired from the decoding unit PROD_B3 according to the recording encoding method may be interposed between the decoding unit PROD_B3 and the recording medium PROD_B5.
  • the transmission medium for transmitting the modulation signal may be wireless or wired.
  • the transmission mode for transmitting the modulated signal may be broadcasting (here, a transmission mode in which the transmission destination is not specified in advance) or communication (here, transmission in which the transmission destination is specified in advance). Refers to the embodiment). That is, the transmission of the modulation signal may be realized by any of wireless broadcasting, wired broadcasting, wireless communication, and wired communication.
  • a terrestrial digital broadcast broadcasting station (broadcasting equipment, etc.) / Receiving station (television receiver, etc.) is an example of a transmitting device PROD_A / receiving device PROD_B that transmits and receives a modulated signal by wireless broadcasting.
  • a broadcasting station (broadcasting equipment, etc.) / Receiving station (television receiver, etc.) of cable television broadcasting is an example of a transmitting device PROD_A / receiving device PROD_B that transmits and receives a modulated signal by wired broadcasting.
  • a server workstation, etc.
  • Client television receiver, personal computer, smart phone, etc.
  • VOD Video On Demand
  • a video sharing service using the Internet transmits and receives a modulated signal by communication.
  • PROD_A / receiving device PROD_B usually, either a wireless or wired transmission medium is used in a LAN, and a wired transmission medium is used in a WAN.
  • the personal computer includes a desktop PC, a laptop PC, and a tablet PC.
  • the smartphone also includes a multi-function mobile phone terminal.
  • the client of the video sharing service has a function of encoding a moving image captured by the camera and uploading it to the server. That is, the client of the video sharing service functions as both the transmission device PROD_A and the reception device PROD_B.
  • FIG. 22 is a block diagram showing a configuration of a recording apparatus PROD_C in which the above-described image encoding apparatuses 11 and 17 are mounted.
  • the recording apparatus PROD_C includes an encoding unit PROD_C1 that obtains encoded data by encoding a moving image, and the encoded data obtained by the encoding unit PROD_C1 on the recording medium PROD_M.
  • a writing unit PROD_C2 for writing.
  • the above-described image encoding devices 11 and 17 are used as the encoding unit PROD_C1.
  • the recording medium PROD_M may be of a type built in the recording device PROD_C, such as (1) HDD (Hard Disk Drive) and SSD (Solid State Drive).
  • the recording medium PROD_M may be of a type connected to the recording device PROD_C, such as (2) an SD memory card or a USB (Universal Serial Bus) flash memory.
  • the recording medium PROD_M is loaded into a drive device (not shown) built in the recording device PROD_C, such as (3) DVD (Digital Versatile Disc) or BD (Blu-ray Disc: registered trademark). It may be.
  • the recording device PROD_C is a camera PROD_C3 that captures moving images as a source of moving images to be input to the encoding unit PROD_C1, an input terminal PROD_C4 for inputting moving images from the outside, and a reception for receiving moving images
  • a unit PROD_C5 and an image processing unit PROD_C6 for generating or processing an image may be further provided.
  • FIG. 22A illustrates a configuration in which the recording apparatus PROD_C includes all of these, but some of them may be omitted.
  • the receiving unit PROD_C5 may receive a non-encoded moving image, or may receive encoded data encoded by a transmission encoding scheme different from the recording encoding scheme. You may do. In the latter case, a transmission decoding unit (not shown) that decodes encoded data encoded by the transmission encoding method may be interposed between the reception unit PROD_C5 and the encoding unit PROD_C1.
  • Examples of such a recording device PROD_C include a DVD recorder, a BD recorder, an HDD (Hard Disk Drive) recorder, and the like (in this case, the input terminal PROD_C4 or the receiver PROD_C5 is a main source of moving images). .
  • a camcorder in this case, the camera PROD_C3 is a main source of moving images
  • a personal computer in this case, the receiving unit PROD_C5 or the image processing unit C6 is a main source of moving images
  • a smartphone this In this case, the camera PROD_C3 or the receiving unit PROD_C5 is a main source of moving images
  • the like is also an example of such a recording apparatus PROD_C.
  • FIG. 22 is a block showing a configuration of a playback device PROD_D in which the above-described image decoding devices 31 and 37 are mounted.
  • the playback device PROD_D reads a moving image by decoding a read unit PROD_D1 that reads encoded data written on the recording medium PROD_M and a read unit PROD_D1 that reads the encoded data. And a decoding unit PROD_D2 to obtain.
  • the above-described image decoding devices 31 and 37 are used as the decoding unit PROD_D2.
  • the recording medium PROD_M may be of the type (1) built in the playback device PROD_D, such as an HDD or SSD.
  • the recording medium PROD_M may be of the type connected to the playback device PROD_D, such as (2) an SD memory card or a USB flash memory.
  • the recording medium PROD_M may be loaded into a drive device (not shown) built in the playback device PROD_D, such as (3) DVD or BD.
  • the playback device PROD_D has a display unit PROD_D3 that displays a moving image as a supply destination of the moving image output by the decoding unit PROD_D2, an output terminal PROD_D4 that outputs the moving image to the outside, and a transmission unit that transmits the moving image.
  • PROD_D5 may be further provided.
  • FIG. 22B illustrates a configuration in which the playback apparatus PROD_D includes all of these, but some of the configurations may be omitted.
  • the transmission unit PROD_D5 may transmit a non-encoded moving image, or transmits encoded data encoded by a transmission encoding scheme different from the recording encoding scheme. You may do. In the latter case, an encoding unit (not shown) that encodes a moving image by a transmission encoding method may be interposed between the decoding unit PROD_D2 and the transmission unit PROD_D5.
  • Examples of such a playback device PROD_D include a DVD player, a BD player, an HDD player, and the like (in this case, an output terminal PROD_D4 to which a television receiver or the like is connected is a main video image supply destination).
  • a television receiver in this case, the display PROD_D3 is the main supply destination of moving images
  • digital signage also referred to as an electronic signboard, an electronic bulletin board, etc.
  • the display PROD_D3 or the transmission unit PROD_D5 Main PC the display PROD_D3 or the transmission unit PROD_D5 Main PC
  • desktop PC in this case, output terminal PROD_D4 or transmitter PROD_D5 is the main video supplier
  • laptop or tablet PC in this case, display PROD_D3 or transmitter
  • a PROD_D5 is a main destination of moving images
  • a smartphone in this case, the display PROD_D3 or the transmission unit PROD_D5 is a main destination of moving images
  • the like are examples of such a playback device PROD_D.
  • Each block of the image decoding devices 31 and 37 and the image encoding devices 11 and 17 described above may be realized in hardware by a logic circuit formed on an integrated circuit (IC chip).
  • the blocks of the image decoding devices 31 and 37 and the image encoding devices 11 and 17 may be realized by software using a CPU (Central Processing Unit).
  • CPU Central Processing Unit
  • each device includes a CPU that executes instructions of a program that realizes each function, a ROM (Read (Memory) that stores the program, a RAM (Random Access) that expands the program, and the program And a storage device (recording medium) such as a memory for storing various data.
  • the object of the embodiment of the present invention is to record the program code (execution format program, intermediate code program, source program) of the control program for each of the above devices, which is software that realizes the above-described functions, in a computer-readable manner This can also be achieved by supplying a medium to each of the above devices, and reading and executing the program code recorded on the recording medium by the computer (or CPU or MPU).
  • Examples of the recording medium include tapes such as magnetic tapes and cassette tapes, magnetic disks such as floppy (registered trademark) disks / hard disks, CD-ROMs (Compact Disc Read-Only Memory) / MO discs (Magneto-Optical discs).
  • tapes such as magnetic tapes and cassette tapes
  • magnetic disks such as floppy (registered trademark) disks / hard disks
  • CD-ROMs Compact Disc Read-Only Memory
  • MO discs Magnetic-Optical discs
  • IC cards including memory cards
  • Cards such as optical cards
  • Semiconductor memories such as flash ROM, or PLD (Programmable logic device ) Or FPGA (Field Programmable Gate Gate Array) or the like.
  • each of the above devices may be configured to be connectable to a communication network, and the program code may be supplied via the communication network.
  • the communication network is not particularly limited as long as it can transmit the program code.
  • Internet intranet, extranet, LAN (Local Area Network), ISDN (Integrated Services Digital Network), VAN (Value-Added Network), CATV (Community Area Antenna / television / Cable Television), Virtual Private Network (Virtual Private Network) Network), telephone line network, mobile communication network, satellite communication network, and the like.
  • the transmission medium constituting the communication network may be any medium that can transmit the program code, and is not limited to a specific configuration or type.
  • IEEE Institute of Electrical and Electronic Engineers 1394, USB, power line carrier, cable TV line, telephone line, ADSL (Asymmetric Digital Subscriber Line) line, etc. wired such as IrDA (Infrared Data Association) or remote control , Bluetooth (registered trademark), IEEE802.11 wireless, HDR (High Data Rate), NFC (Near Field Communication), DLNA (Digital Living Network Alliance: registered trademark), mobile phone network, satellite line, terrestrial digital broadcasting network, etc. It can also be used wirelessly.
  • the embodiment of the present invention can also be realized in the form of a computer data signal embedded in a carrier wave in which the program code is embodied by electronic transmission.
  • Embodiments of the present invention are preferably applied to an image decoding apparatus that decodes encoded data in which image data is encoded, and an image encoding apparatus that generates encoded data in which image data is encoded. it can. Further, the present invention can be suitably applied to the data structure of encoded data generated by an image encoding device and referenced by the image decoding device.

Abstract

動画像復号装置は、サブピクチャをそれぞれ復号するサブピクチャ復号部（３３ａ～３３ｎ）と、復号されたサブピクチャを、互いに重複することが許容されるようにピクチャ内に合成するピクチャ合成部（３６）とを備えている。

Description

動画像復号装置、及び動画像符号化装置
　本発明の実施形態は、動画像復号装置、及び動画像符号化装置に関する。
　動画像を効率的に伝送又は記録するために、動画像を符号化することによって符号化データを生成する動画像符号化装置、及び、当該符号化データを復号することによって復号画像を生成する動画像復号装置が用いられている。
　具体的な動画像符号化方式としては、例えば、H.264/AVCやHEVC（High-Efficiency Video Coding）にて提案されている方式等が挙げられる。
　このような動画像符号化方式においては、動画像を構成する画像（ピクチャ）は、画像を分割することにより得られるスライス、スライスを分割することにより得られる符号化ツリーユニット（CTU：Coding Tree Unit）、符号化ツリーユニットを分割することで得られる符号化単位（符号化ユニット（Coding Unit：CU）と呼ばれることもある）、及び、符号化単位を分割することにより得られるブロックである予測ユニット（PU）、変換ユニット（TU）からなる階層構造により管理され、CUごとに符号化／復号される。
　また、このような動画像符号化方式においては、通常、入力画像を符号化／復号することによって得られる局所復号画像に基づいて予測画像が生成され、当該予測画像を入力画像（原画像）から減算して得られる予測残差（「差分画像」又は「残差画像」と呼ぶこともある）が符号化される。予測画像の生成方法としては、画面間予測（インター予測）、及び、画面内予測（イントラ予測）が挙げられる。
　また、近年の動画像符号化及び復号の技術として特許文献１及び非特許文献１が挙げられる。特許文献１では、スケーラブル符号化等で用いられるレイヤをタイルの代わりに利用することにより、自由度の高いタイルの配置を可能としている。非特許文献１には、H.265/HEVCのTile等の関する技術が開示されている。
日本国公開特許公報「特開２０１５－１２６５０８号公報（２０１５年７月６日公開）」
ITU-T H.265, "High efficiency video coding" , SERIES H:AUDIOVISUAL AND MULTIMEDIA SYSTEMS Infrastructure of audiovisual services -Coding of moving video, ISO/IEC 23008-2, December 2016
　しかしながら、特許文献１及び非特許文献１に記載されているような従来技術では、効率よく符号化・復号処理を行うことができ、且つ、高画質な画像を提供することができない。
　本発明は、効率よく符号化・復号処理を実行でき、且つ、高画質な画像を提供することを目的とする。
　上記課題を解決するために、本発明の一態様に係る動画像復号装置は、サブピクチャをそれぞれ復号するサブピクチャ復号部と、復号された上記サブピクチャを、互いに重複することが許容されるようにピクチャ内に合成するピクチャ合成部とを備えている。
　上記課題を解決するために、本発明の一態様に係る動画像符号化装置は、ピクチャを、互いに重複することが許容されたサブピクチャに分割するピクチャ分割部と、サブピクチャをそれぞれ符号化するサブピクチャ符号化部とを備えている。
　以上の構成によれば、効率よく符号化・復号処理を実行でき、且つ、高画質な画像を提供することができる。
符号化ストリームのデータの階層構造を示す図である。 サブピクチャシーケンスを示す概念図である。 PU分割モードのパターンを示す図である。（ａ）～（ｈ）は、それぞれ、PU分割モードが、2Nx2N、2NxN、2NxnU、2NxnD、Nx2N、nLx2N、nRx2N、及び、NxNの場合のパーティション形状について示している。 参照ピクチャ及び参照ピクチャリストの一例を示す概念図である。 実施形態１に係る画像符号化装置の構成を示すブロック図である。 実施形態１に係る画像符号化装置におけるサブピクチャ符号化部の構成を示すブロック図である。 実施形態１に係る画像符号化装置のインター予測画像生成部の構成を示すブロック図である。 実施形態１に係る画像復号装置の構成を示すブロック図である。 実施形態１に係る画像復号装置におけるサブピクチャ復号部の構成を示すブロック図である。 実施形態１に係る画像復号装置におけるピクチャ合成部が参照する、サブピクチャシーケンスパラメータセットSSPS内に含まれるシンタックスの一例を示す図である。 chroma_format_idcから導出されるSubWidthC及びSubHeightCの値を示すテーブルを示す図である。 サブピクチャシーケンスパラメータセットSSPS内に含まれるシンタックスの一例とピクチャ内の各部との対応関係を示す図である。 実施形態１に係る画像復号装置におけるピクチャ合成部が参照する、シーケンスパラメータセットSPS内に含まれるシンタックスの別の例を示す図である。 シーケンスパラメータセットSPS内に含まれるシンタックスの別の例とピクチャ内の各部との対応関係を示す図である。 実施形態２における符号化ストリームTeの階層構造を示す図である。 実施形態２に係る画像符号化装置の構成を示すブロック図である。 実施形態２に係る画像符号化装置におけるサブピクチャ符号化部の構成を示すブロック図である。 実施形態２に係る画像復号装置の構成を示すブロック図である。 実施形態２に係る画像復号装置におけるサブピクチャ復号部の構成を示すブロック図である。 実施形態２に係る画像復号装置におけるピクチャ合成部が参照する、ピクチャパラメータセットPPS内に含まれるシンタックスの一例を示す図である。 実施形態１、２に係る画像符号化装置を搭載した送信装置、及び、画像復号装置を搭載した受信装置の構成について示した図である。（ａ）は、画像符号化装置を搭載した送信装置を示しており、（ｂ）は、画像復号装置を搭載した受信装置を示している。 実施形態１、２に係る画像符号化装置を搭載した記録装置、及び、画像復号装置を搭載した再生装置の構成について示した図である。（ａ）は、画像符号化装置を搭載した記録装置を示しており、（ｂ）は、画像復号装置を搭載した再生装置を示している。 実施形態１に係る画像伝送システムの構成を示す概略図である。 実施形態２に係る画像伝送システムの構成を示す概略図である。
　〔実施形態１〕
　以下、図面を参照しながら本発明の実施形態について説明する。
　図２３は、本実施形態に係る画像伝送システム１の構成を示す概略図である。
　画像伝送システム１は、符号化対象画像を符号化した符号を伝送し、伝送された符号を復号し画像を表示するシステムである。画像伝送システム１は、画像符号化装置（動画像符号化装置）１１、ネットワーク２１、画像復号装置（動画像復号装置）３１及び画像表示装置４１を含んで構成される。
　画像符号化装置１１には、単一レイヤ若しくは複数レイヤの画像を示す画像Tが入力される。レイヤとは、ある時間を構成するピクチャが１つ以上ある場合に、複数のピクチャを区別するために用いられる概念である。例えば、同一ピクチャを、画質や解像度の異なる複数のレイヤによって符号化するとスケーラブル符号化になり、異なる視点のピクチャを複数のレイヤによって符号化するとビュースケーラブル符号化となる。複数のレイヤのピクチャ間で予測（インターレイヤ予測、インタービュー予測）を行う場合には、符号化効率が大きく向上する。また予測を行わない場合（サイマルキャスト）の場合にも、符号化データをまとめることができる。
　ネットワーク２１は、画像符号化装置１１が生成した符号化ストリームTeを画像復号装置３１に伝送する。ネットワーク２１は、インターネット（internet）、広域ネットワーク（WAN:Wide Area Network）、小規模ネットワーク（LAN:Local Area Network）又はこれらの組み合わせである。ネットワーク２１は、必ずしも双方向の通信網に限らず、地上デジタル放送、衛星放送等の放送波を伝送する一方向の通信網であってもよい。また、ネットワーク２１は、DVD（Digital Versatile Disc）、BD（Blu-ray Disc）等の符号化ストリームTeを記録した記憶媒体によって代替されてもよい。
　画像復号装置３１は、ネットワーク２１が伝送した符号化ストリームTeのそれぞれを復号し、それぞれ復号した１又は複数の復号画像Tdを生成する。
　画像表示装置４１は、画像復号装置３１が生成した１又は複数の復号画像Tdの全部又は一部を表示する。画像表示装置４１は、例えば、液晶ディスプレイ、有機ＥＬ（Electro-luminescence）ディスプレイ等の表示デバイスを備える。また、空間スケーラブル符号化、ＳＮＲスケーラブル符号化では、画像復号装置３１及び画像表示装置４１が高い処理能力を有する場合には、画質の高い拡張レイヤ画像を表示する。より低い処理能力しか有しない場合には、拡張レイヤほど高い処理能力、表示能力を必要としないベースレイヤ画像を表示する。
　＜演算子＞
　本明細書において用いる演算子を以下に記載する。
　>>は右ビットシフト、<<は左ビットシフト、&はビットワイズAND、|はビットワイズOR、|=はOR代入演算子である。
　x ? y : zは、xが真（0以外）の場合にy、xが偽（0）の場合にzをとる３項演算子である。
　Clip3(a, b, c) は、cをa以上b以下の値にクリップする関数であり、c<aの場合にはaを返し、c>bの場合にはbを返し、その他の場合にはcを返す関数である（ただし、a<=b）。
　　＜符号化ストリームTeの構造＞
　本実施形態に係る画像符号化装置１１及び画像復号装置３１の詳細な説明に先立って、画像符号化装置１１によって生成され、画像復号装置３１によって復号される符号化ストリームTeのデータ構造について説明する。
　図１は、符号化ストリームTeにおける階層構造を示す図である。符号化ストリームTeは、例示的に、シーケンス、及びシーケンスを構成する複数のサブピクチャシーケンスを含む。図１の（ａ）～（ｇ）は、それぞれ、シーケンスSEQを既定する符号化ビデオシーケンス、サブピクチャシーケンスを規定する符号化サブピクチャシーケンス、サブピクチャSPICTを規定する符号化サブピクチャ、スライスSを規定する符号化スライス、スライスデータを規定する符号化スライスデータ、符号化スライスデータに含まれる符号化ツリーユニット及び符号化ツリーユニットに含まれる符号化ユニット（Coding Unit；CU）を示す図である。
　（サブピクチャシーケンス）
　まず、サブピクチャシーケンスについて、図２を用いて説明する。図２は、サブピクチャシーケンスを示す概念図である。図２に示されるように、ビデオシーケンスは、複数の時間方向に連続するピクチャPICTから構成されている。サブピクチャSPICTとは、ピクチャPICTを分割したものであり、より具体的には、ピクチャPICTを互いに重複することが許容されて分割されたものである。サブピクチャシーケンスとは、複数の時間方向に連続するサブピクチャSPICTから構成されている。
　このような構成によって、画像復号装置３１は、サブピクチャシーケンス単位で効率よく並列且つ独立にサブピクチャを復号することができる。また、画像復号装置３１は、重複を許容して当該サブピクチャを合成することで、分割された画面の境界での画質差を軽減することができる。
　　（符号化ビデオシーケンス）
　符号化ビデオシーケンスでは、処理対象のビデオシーケンスSEQを復号するために画像復号装置３１が参照するデータの集合が規定されている。シーケンスSEQは、図１の（ａ）に示すように、ビデオパラメータセットVPS（Video Parameter Set）、シーケンスパラメータセットSPS（Sequence Parameter Set）、及び、サブピクチャシーケンスを含んでいる。ここで＃の後に示される値はレイヤIDを示す。図１では、#0と#1すなわちレイヤ０とレイヤ１の符号化データが存在する例を示すが、レイヤの種類及びレイヤの数はこれによらない。
　ビデオパラメータセットVPSでは、複数のレイヤから構成されている動画像において、複数の動画像に共通する符号化パラメータの集合及び動画像に含まれる複数のレイヤ及び個々のレイヤに関連する符号化パラメータの集合が規定されている。
　シーケンスパラメータセットSPSでは、対象シーケンスを復号するために画像復号装置３１が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。なお、SPSは複数存在してもよい。その場合、SSPSから複数のSPSの何れかを選択する。
　　（符号化サブピクチャシーケンス）
　符号化サブピクチャシーケンスでは、処理対象のサブピクチャシーケンスを復号するために画像復号装置３１が参照するデータの集合が規定されている。符号化サブピクチャシーケンスは、図１の（ｂ）に示すように、サブピクチャシーケンスパラメータセットSSPS（Subpicture Sequence Parameter Set）、ピクチャパラメータセットPPS（Picture Parameter Set）、ピクチャPICT、付加拡張情報SEI（Supplemental Enhancement Information）、及び、サブピクチャSPICTを含んでいる。
　サブピクチャシーケンスパラメータセットSSPSは、シーケンスパラメータセットSPSの下位であり、ピクチャパラメータセットPPSの上位のパラメータセットである。サブピクチャシーケンスパラメータセットSSPSは、対象シーケンス内の各サブピクチャシーケンスを復号するために画像復号装置３１が参照する符号化パラメータの集合が規定されている。例えば、サブピクチャの幅や高さが規定される。SSPSは複数存在してもよい。その場合、PPSから複数のSSPSの何れかを選択する。
　ピクチャパラメータセットPPSでは、対象シーケンス内の各ピクチャを復号するために画像復号装置３１が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値（pic_init_qp_minus26）や重み付き予測の適用を示すフラグ（weighted_pred_flag）が含まれる。なお、PPSは複数存在してもよい。その場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
　　（符号化サブピクチャ）
　符号化サブピクチャでは、処理対象のサブピクチャSPICTを復号するために、画像復号装置３１が参照するデータの集合が規定されている。サブピクチャSPICTは、図１の（ｃ）に示すように、スライスS0～SNS-1を含んでいる（NSはサブピクチャSPICTに含まれるスライスの総数）。サブピクチャの総数については、プロファイルやレベル等によって規定される画像復号装置３１の能力による制限によって規定されてもよい。
　なお、以下、スライスS0～SNS-1のそれぞれを区別する必要が無い場合、符号の添え字を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
　　（符号化スライス）
　符号化スライスでは、処理対象のスライスSを復号するために画像復号装置３１が参照するデータの集合が規定されている。スライスSは、図１の（ｄ）に示すように、スライスヘッダSH、及び、スライスデータSDATAを含んでいる。
　スライスヘッダSHには、対象スライスの復号方法を決定するために画像復号装置３１が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報（slice_type）は、スライスヘッダSHに含まれる符号化パラメータの一例である。
　スライスタイプ指定情報により指定可能なスライスタイプとしては、（１）符号化の際にイントラ予測のみを用いるＩスライス、（２）符号化の際に単方向予測、又は、イントラ予測を用いるＰスライス、（３）符号化の際に単方向予測、双方向予測、又は、イントラ予測を用いるＢスライス等が挙げられる。
　なお、スライスヘッダSHには、上記符号化ビデオシーケンスに含まれる、ピクチャパラメータセットPPSへの参照（pic_parameter_set_id）を含んでいてもよい。
　　（符号化スライスデータ）
　符号化スライスデータでは、処理対象のスライスデータSDATAを復号するために画像復号装置３１が参照するデータの集合が規定されている。スライスデータSDATAは、図１の（ｅ）に示すように、符号化ツリーユニット（CTU:Coding Tree Unit）を含んでいる。CTUは、スライスを構成する固定サイズ（例えば64x64）のブロックであり、最大符号化単位（LCU:Largest Coding Unit）と呼ぶこともある。
　　（符号化ツリーユニット）
　図１の（ｆ）に示すように、処理対象の符号化ツリーユニットを復号するために画像復号装置３１が参照するデータの集合が規定されている。符号化ツリーユニットは、再帰的な４分木分割により分割される。再帰的な４分木分割により得られる木構造のノードのことを符号化ノード（CN:Coding Node）と称する。４分木の中間ノードは、符号化ノードであり、符号化ツリーユニット自身も最上位の符号化ノードとして規定される。CTUは、分割フラグ（cu_split_flag）を含み、cu_split_flagが１の場合には、４つの符号化ノードCNに分割される。cu_split_flagが０の場合には、符号化ノードCNは分割されず、１つの符号化ユニット（CU:Coding Unit）をノードとして持つ。符号化ユニットCUは符号化ノードの末端ノードであり、これ以上分割されない。符号化ユニットCUは、符号化処理の基本的な単位となる。
　また、符号化ツリーユニットCTUのサイズが64x64画素の場合には、符号化ユニットのサイズは、64x64画素、32x32画素、16x16画素、及び、8x8画素の何れかをとり得る。
　　（符号化ユニット）
　図１の（ｇ）に示すように、処理対象の符号化ユニットを復号するために画像復号装置３１が参照するデータの集合が規定されている。具体的には、符号化ユニットは、予測ツリー、変換ツリー、CUヘッダCUHから構成される。CUヘッダでは予測モード、分割方法（PU分割モード）等が規定される。
　予測ツリーでは、符号化ユニットを１又は複数に分割した各予測ユニット（PU）の予測情報（参照ピクチャインデックス、動きベクトル等）が規定される。別の表現でいえば、予測ユニットは、符号化ユニットを構成する１又は複数の重複しない領域である。また、予測ツリーは、上述の分割により得られた１又は複数の予測ユニットを含む。なお、以下では、予測ユニットを更に分割した予測単位を「サブブロック」と呼ぶ。サブブロックは、複数の画素によって構成されている。予測ユニットとサブブロックのサイズが等しい場合には、予測ユニット中のサブブロックは１つである。予測ユニットがサブブロックのサイズよりも大きい場合には、予測ユニットは、サブブロックに分割される。例えば予測ユニットが8x8、サブブロックが4x4の場合には、予測ユニットは水平に２分割、垂直に２分割からなる、４つのサブブロックに分割される。
　予測処理は、この予測ユニット（サブブロック）ごとに行ってもよい。
　予測ツリーにおける分割の種類は、大まかにいえば、イントラ予測の場合と、インター予測の場合との２つがある。イントラ予測とは、同一ピクチャ内の予測であり、インター予測とは、互いに異なるピクチャ間（例えば、表示時刻間、レイヤ画像間）で行われる予測処理を指す。
　イントラ予測の場合、分割方法は、2Nx2N（符号化ユニットと同一サイズ）と、NxNとがある。
　また、インター予測の場合、分割方法は、符号化データのPU分割モード（part_mode）により符号化され、2Nx2N（符号化ユニットと同一サイズ）、2NxN、2NxnU、2NxnD、Nx2N、nLx2N、nRx2N、及び、NxN等がある。なお、2NxN、Nx2Nは1:1の対称分割を示し、
2NxnU、2NxnD及びnLx2N、nRx2Nは、1:3、3:1の非対称分割を示す。CUに含まれるPUを順にPU0、PU1、PU2、PU3と表現する。
　図３の（ａ）～（ｈ）に、それぞれのPU分割モードにおけるパーティションの形状（PU分割の境界の位置）を具体的に図示している。図３の（ａ）は、2Nx2Nのパーティションを示し、（ｂ）、（ｃ）、（ｄ）は、それぞれ、2NxN、2NxnU、及び、2NxnDのパーティション（横長パーティション）を示す。（ｅ）、（ｆ）、（ｇ）は、それぞれ、Nx2N、nLx2N、nRx2Nである場合のパーティション（縦長パーティション）を示し、（ｈ）は、NxNのパーティションを示す。なお、横長パーティションと縦長パーティションを総称して長方形パーティション、2Nx2N、NxNを総称して正方形パーティションと呼ぶ。
　また、変換ツリーにおいては、符号化ユニットが１又は複数の変換ユニットに分割され、各変換ユニットの位置とサイズとが規定される。別の表現でいえば、変換ユニットは、符号化ユニットを構成する１又は複数の重複しない領域のことである。また、変換ツリーは、上述の分割より得られた１又は複数の変換ユニットを含む。
　変換ツリーにおける分割には、符号化ユニットと同一のサイズの領域を変換ユニットとして割り付けるものと、上述したCUの分割と同様、再帰的な４分木分割によるものがある。
　変換処理は、この変換ユニットごとに行われる。
　　（予測パラメータ）
　予測ユニット（PU：Prediction Unit）の予測画像は、PUに付随する予測パラメータによって導出される。予測パラメータには、イントラ予測の予測パラメータもしくはインター予測の予測パラメータがある。以下、インター予測の予測パラメータ（インター予測パラメータ）について説明する。インター予測パラメータは、予測リスト利用フラグpredFlagL0、predFlagL1と、参照ピクチャインデックスrefIdxL0、refIdxL1と、動きベクトルmvL0、mvL1から構成される。予測リスト利用フラグpredFlagL0、predFlagL1は、各々L0リスト、L1リストと呼ばれる参照ピクチャリストが用いられるか否かを示すフラグであり、値が１の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「ＸＸであるか否かを示すフラグ」と記す場合、フラグが０以外（たとえば１）をＸＸである場合、０をＸＸではない場合とし、論理否定、論理積等では１を真、０を偽と扱う（以下同様）。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。
　符号化データに含まれるインター予測パラメータを導出するためのシンタックス要素には、例えば、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、及び、差分ベクトルmvdLXがある。
　　（参照ピクチャリスト）
　参照ピクチャリストは、参照ピクチャメモリ３０６に記憶された参照ピクチャからなるリストである。図４は、参照ピクチャ及び参照ピクチャリストの一例を示す概念図である。図４（ａ）において、矩形はピクチャ、矢印はピクチャの参照関係、横軸は時間、矩形中のI、P、Bは各々イントラピクチャ、単予測ピクチャ、双予測ピクチャ、矩形中の数字は復号順を示す。図に示すように、ピクチャの復号順は、I0、P1、B2、B3、B4であり、表示順は、I0、B3、B2、B4、P1である。図４（ｂ）に、参照ピクチャリストの例を示す。参照ピクチャリストは、参照ピクチャの候補を表すリストであり、１つのピクチャ（スライス）が１つ以上の参照ピクチャリストを有してもよい。図の例では、対象ピクチャB3は、L0リストRefPicList0及びL1リストRefPicList1の２つの参照ピクチャリストを持つ。対象ピクチャがB3の場合の参照ピクチャは、I0、P1、B2であり、参照ピクチャはこれらのピクチャを要素として持つ。個々の予測ユニットでは、参照ピクチャリストRefPicListX中のどのピクチャを実際に参照するかを参照ピクチャインデックスrefIdxLXで指定する。図では、refIdxL0及びrefIdxL1により参照ピクチャP1とB2が参照される例を示す。
　　（マージ予測とAMVP予測）
　予測パラメータの復号（符号化）方法には、マージ予測（merge）モードとAMVP（Adaptive Motion Vector Prediction、適応動きベクトル予測）モードがある、マージフラグmerge_flagは、これらを識別するためのフラグである。マージ予測モードは、予測リスト利用フラグpredFlagLX（又はインター予測識別子inter_pred_idc）、参照ピクチャインデックスrefIdxLX及び動きベクトルmvLXを符号化データに含めずに、既に処理した近傍PUの予測パラメータから導出する用いるモードである。AMVPモードは、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めるモードである。なお、動きベクトルmvLXは、予測ベクトルmvpLXを識別する予測ベクトルインデックスmvp_LX_idxと差分ベクトルmvdLXとして符号化される。
　インター予測識別子inter_pred_idcは、参照ピクチャの種類及び数を示す値であり、PRED_L0、PRED_L1、PRED_BIの何れかの値をとる。PRED_L0、PRED_L1は、各々L0リスト、L1リストの参照ピクチャリストによって管理された参照ピクチャを用いることを示し、１枚の参照ピクチャを用いること（単予測）を示す。PRED_BIは２枚の参照ピクチャを用いること（双予測BiPred）を示し、L0リストとL1リストによって管理された参照ピクチャを用いる。予測ベクトルインデックスmvp_LX_idxは予測ベクトルを示すインデックスであり、参照ピクチャインデックスrefIdxLXは、参照ピクチャリストによって管理された参照ピクチャを示すインデックスである。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する。
　マージインデックスmerge_idxは、処理が完了したPUから導出される予測パラメータ候補（マージ候補）のうち、いずれかの予測パラメータを復号対象PUの予測パラメータとして用いるかを示すインデックスである。
　　（動きベクトル）
　動きベクトルmvLXは、異なる２つのピクチャ上のブロック間のずれ量を示す。動きベクトルmvLXに関する予測ベクトル、差分ベクトルを、それぞれ予測ベクトルmvpLX、差分ベクトルmvdLXと呼ぶ。
　（インター予測識別子inter_pred_idcと予測リスト利用フラグpredFlagLX）
　インター予測識別子inter_pred_idcと、予測リスト利用フラグpredFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
　inter_pred_idc = （predFlagL1<<１） + predFlagL0
　predFlagL0 = inter_pred_idc & １
　predFlagL1 = inter_pred_idc >> １
　なお、インター予測パラメータは、予測リスト利用フラグを用いてもよいし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
　（双予測biPredの判定）
　双予測BiPredであるかのフラグbiPredは、２つの予測リスト利用フラグがともに１であるかによって導出できる。たとえば以下の式によって導出できる。
　biPred = (predFlagL0 == 1 && predFlagL1 == 1)
　フラグbiPredは、インター予測識別子が２つの予測リスト（参照ピクチャ）を使うことを示す値であるか否かによっても導出できる。たとえば以下の式によって導出できる。
　biPred = (inter_pred_idc == PRED_BI) ? 1 : 0
上記式は、以下の式でも表現できる。
　biPred = (inter_pred_idc == PRED_BI)
　なお、PRED_BIはたとえば3の値を用いることができる。
　　（画像復号装置の構成）
　次に、本実施形態に係る画像復号装置３１の構成について説明する。図８は、本実施形態に係る画像復号装置３１の構成を示すブロック図である。画像復号装置３１は、NAL復号部３２、サブピクチャ復号部３３ａ～３３ｎ及びピクチャ合成部３６を含んで構成される。
　NAL復号部３２は、外部から入力され、NAL（network abstraction layer）ユニット単位で符号化された符号化ストリームTeを復号する。NAL復号部３２は、符号化ストリームTeを復号して得られた符号化サブピクチャシーケンスを、サブピクチャ復号部３３ａ～３３ｎに伝送する。また、NAL復号部３２は、サブピクチャ情報等をピクチャ合成部３６に伝送する。
　なお、サブピクチャ情報とは、ピクチャをどのように分割したのかを示す情報であり、サブピクチャシーケンスパラメータセットSSPS等が含まれる。
　サブピクチャ復号部３３ａ～３３ｎは、サブピクチャをそれぞれ復号し、復号したサブピクチャをピクチャ合成部３６に伝送する。
　ここで、サブピクチャ復号部３３ａ～３３ｎは、サブピクチャシーケンスを１つの独立なビデオシーケンスとして復号処理を行うため、復号処理を行う際に時間的にも空間的にもサブピクチャシーケンス間の予測情報を参照しない。すなわち、サブピクチャ復号部３３ａ～３３ｎは、あるピクチャ内のサブピクチャを復号する場合に、別のサブピクチャシーケンスのサブピクチャを参照しない。
　このように、サブピクチャ復号部３３ａ～３３ｎの各々がサブピクチャを復号するため、複数のサブピクチャを並列に復号処理することも、１つのサブピクチャのみを独立して復号することもできる。その結果、サブピクチャ復号部３３ａ～３３ｎによれば、効率よく復号処理を実行することができる。
　ピクチャ合成部３６は、NAL復号部３２から伝送されたサブピクチャ情報と、サブピクチャ復号部３３ａ～３３ｎによって復号されたサブピクチャとを参照し、復号画像Tdを生成、出力する。ここで、ピクチャ合成部３６は、復号された複数のサブピクチャを、互いに重複することが許容されるようにピクチャ内に合成することで、復号画像Tdを生成、出力することもできる。
　なお、ピクチャ合成部３６は、サブピクチャを合成する際に、合成されたサブピクチャ間に隙間が発生するようにサブピクチャを生成、出力してもよい。
　上述のようにピクチャ合成部３６がサブピクチャを合成するため、画像復号装置３１によれば、サブピクチャの境界において復号処理が切れ、当該サブピクチャの境界における画質に差が生じることを防ぐことができる。その結果、高画質な画像を得ることができる。
　　（サブピクチャ復号部の構成）
　サブピクチャ復号部３３ａ～３３ｎの構成について説明する。以下に一例として、サブピクチャ復号部３３ａの構成を、図９を用いて説明する。図９は、サブピクチャ復号部３３ａの構成を示すブロック図である。
　サブピクチャ復号部３３ａは、エントロピー復号部３０１、予測パラメータ復号部３０２、ループフィルタ３０５、参照ピクチャメモリ３０６、予測パラメータメモリ３０７、予測画像生成部３０８、逆量子化・逆変換部３１１、及び加算部３１２を含んで構成される。
　また、予測パラメータ復号部３０２は、インター予測パラメータ復号部３０３及びイントラ予測パラメータ復号部３０４を含んで構成される。予測画像生成部３０８は、インター予測画像生成部３０９及びイントラ予測画像生成部３１０を含んで構成される。
　エントロピー復号部３０１は、符号化サブピクチャに対してエントロピー復号を行って、個々の符号（シンタックス要素）を分離し復号する。分離された符号には、予測画像を生成するための予測情報及び、差分画像を生成するための残差情報等がある。
　エントロピー復号部３０１は、分離した符号の一部を予測パラメータ復号部３０２に出力する。分離した符号の一部とは、例えば、予測モードpredMode、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、及び、差分ベクトルmvdLXである。どの符号を復号するかの制御は、予測パラメータ復号部３０２の指示に基づいて行われる。エントロピー復号部３０１は、量子化係数を逆量子化・逆変換部３１１に出力する。この量子化係数は、符号化処理において、残差信号に対してDCT（Discrete Cosine Transform、離散コサイン変換）、DST（Discrete Sine Transform、離散サイン変換）、及び、KLT（Karyhnen Loeve Transform、カルーネンレーベ変換）等の周波数変換を行い量子化して得られる係数である。
　インター予測パラメータ復号部３０３は、エントロピー復号部３０１から入力された符号に基づいて、予測パラメータメモリ３０７に記憶された予測パラメータを参照してインター予測パラメータを復号する。
　インター予測パラメータ復号部３０３は、復号したインター予測パラメータを予測画像生成部３０８に出力し、また予測パラメータメモリ３０７に記憶する。
　イントラ予測パラメータ復号部３０４は、エントロピー復号部３０１から入力された符号に基づいて、予測パラメータメモリ３０７に記憶された予測パラメータを参照してイントラ予測パラメータを復号する。イントラ予測パラメータとは、CUを１つのピクチャ内で予測する処理において用いるパラメータ、例えば、イントラ予測モードIntraPredModeである。イントラ予測パラメータ復号部３０４は、復号したイントラ予測パラメータを予測画像生成部３０８に出力し、また予測パラメータメモリ３０７に記憶する。
　イントラ予測パラメータ復号部３０４は、輝度と色差とで異なるイントラ予測モードを導出してもよい。この場合、イントラ予測パラメータ復号部３０４は、輝度の予測パラメータとして輝度予測モードIntraPredModeY、色差の予測パラメータとして、色差予測モードIntraPredModeCを復号する。輝度予測モードIntraPredModeYは、３５モードであり、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）が対応する。色差予測モードIntraPredModeCは、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）、LMモード（３５）の何れかを用いるものである。イントラ予測パラメータ復号部３０４は、IntraPredModeCは輝度モードと同じモードであるか否かを示すフラグを復号する。イントラ予測パラメータ復号部３０４は、フラグが輝度モードと同じモードであることを示せば、IntraPredModeCにIntraPredModeYを割り当てる。イントラ予測パラメータ復号部３０４は、フラグが輝度モードと異なるモードであることを示せば、IntraPredModeCとして、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）、LMモード（３５）を復号してもよい。
　ループフィルタ３０５は、加算部３１２が生成したCUの復号画像に対し、デブロッキングフィルタ、サンプル適応オフセット（SAO）、適応ループフィルタ（ALF）等のフィルタを施す。
　参照ピクチャメモリ３０６は、加算部３１２が生成したCUの復号画像を、復号対象のサブピクチャ及びCU毎に予め定めた位置に記憶する。
　予測パラメータメモリ３０７は、予測パラメータを、復号対象のピクチャ及び予測ユニット（若しくはサブブロック、固定サイズブロック、ピクセル）毎に予め定めた位置に記憶する。具体的には、予測パラメータメモリ３０７は、インター予測パラメータ復号部３０３が復号したインター予測パラメータを記憶する。また、予測パラメータメモリ３０７は、イントラ予測パラメータ復号部３０４が復号したイントラ予測パラメータ及びエントロピー復号部３０１が分離した予測モードpredModeを記憶する。記憶されるインター予測パラメータには、例えば、予測リスト利用フラグpredFlagLX（インター予測識別子inter_pred_idc）、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXがある。
　予測画像生成部３０８には、エントロピー復号部３０１から入力された予測モードpredModeが入力され、また予測パラメータ復号部３０２から予測パラメータが入力される。また、予測画像生成部３０８は、参照ピクチャメモリ３０６から参照ピクチャを読み出す。予測画像生成部３０８は、予測モードpredModeが示す予測モードによって、入力された予測パラメータと読み出した参照ピクチャ（参照ピクチャブロック）を用いてPU若しくはサブブロックの予測画像を生成する。
　ここで、予測モードpredModeがインター予測モードを示す場合、インター予測画像生成部３０９は、インター予測パラメータ復号部３０３から入力されたインター予測パラメータと読み出した参照ピクチャ（参照ピクチャブロック）を用いてインター予測によりPU又はサブブロックの予測画像を生成する。
　インター予測画像生成部３０９は、予測リスト利用フラグpredFlagLXが１である参照ピクチャリスト（L0リスト、若しくはL1リスト）に対し、参照ピクチャインデックスrefIdxLXとして示される参照ピクチャから、復号対象PUを基準として動きベクトルmvLXが示す位置にある参照ピクチャブロックを参照ピクチャメモリ３０６から読み出す。インター予測画像生成部３０９は、読み出した参照ピクチャブロックをもとに予測を行ってPUの予測画像を生成する。インター予測画像生成部３０９は、生成したPUの予測画像を加算部３１２に出力する。ここで、参照ピクチャブロックとは、参照ピクチャ上の画素の集合（通常矩形であるのでブロックと呼ぶ）であり、PU若しくはサブブロックの予測画像を生成するために参照する領域である。
　予測モードpredModeがイントラ予測モードを示す場合、イントラ予測画像生成部３１０は、イントラ予測パラメータ復号部３０４から入力されたイントラ予測パラメータと読み出した参照ピクチャを用いてイントラ予測を行う。具体的には、イントラ予測画像生成部３１０は、復号対象のピクチャであって、既に復号されたPUのうち、復号対象PUから予め定めた範囲にある隣接PUを参照ピクチャメモリ３０６から読み出す。予め定めた範囲とは、復号対象PUがいわゆるラスタースキャンの順序によって順次移動する場合、例えば、左、左上、上、右上の隣接PUのうちのいずれかであり、イントラ予測モードによって異なる。ラスタースキャンの順序とは、各ピクチャにおいて、上端から下端まで各行について、順次左端から右端まで移動させる順序である。
　イントラ予測画像生成部３１０は、読み出した隣接PUに基づいてイントラ予測モードIntraPredModeが示す予測モードによって予測を行ってPUの予測画像を生成する。イントラ予測画像生成部３１０は、生成したPUの予測画像を加算部３１２に出力する。
　イントラ予測パラメータ復号部３０４において、輝度と色差とで異なるイントラ予測モードを導出する場合、イントラ予測画像生成部３１０は、輝度予測モードIntraPredModeYに応じて、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）の何れかによって輝度のPUの予測画像を生成する。また、イントラ予測画像生成部３１０は、色差予測モードIntraPredModeCに応じて、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）、LMモード（３５）の何れかによって色差のPUの予測画像を生成する。
　逆量子化・逆変換部３１１は、エントロピー復号部３０１から入力された量子化係数を逆量子化して変換係数を求める。逆量子化・逆変換部３１１は、求めた変換係数について逆DCT、逆DST、逆KLT等の逆周波数変換を行い、残差信号を算出する。逆量子化・逆変換部３１１は、算出した残差信号を加算部３１２に出力する。
　加算部３１２は、インター予測画像生成部３０９又はイントラ予測画像生成部３１０から入力されたPUの予測画像と逆量子化・逆変換部３１１から入力された残差信号を画素毎に加算して、PUの復号画像を生成する。加算部３１２は、生成したPUの復号画像を参照ピクチャメモリ３０６に記憶し、生成したPUの復号画像をピクチャ毎に統合した復号画像Tdを外部に出力する。
　　（ピクチャ合成部３６による画像生成の例）
　以下に、ピクチャ合成部３６による画像生成の例について、図１０～図１２を用いて詳細に説明する。
　図１０は、シーケンスパラメータセットSPS、サブピクチャシーケンスパラメータセットSSPS、及びピクチャパラメータセットPSのそれぞれに含まれるシンタックスの一例を示す図である。図１１は、chroma_format_idcから導出されるSubWidthC及びSubHeightCの値を示すテーブルを示す図である。図１２は、サブピクチャシーケンスパラメータセットSSPS内に含まれるシンタックスの一例とピクチャ内の各部との対応関係を示す図である。
　ピクチャ合成部３６は、図１０に示されるようなサブピクチャシーケンスパラメータセットSSPS内に含まれるシンタックスを参照することにより、複数のサブピクチャを、互いに重複することが許容されるように合成してもよい。
　サブピクチャ間に隙間が発生する場合、すなわち、ピクチャ内の画素が、各サブピクチャにない場合には、ピクチャ合成部３６は、所定の画素値によって埋めてもよい。ピクチャ合成部３６は、重複した画素については、サブピクチャの間での同一画素位置の画素値の重み付き平均の値を用いてもよい。また、３つ以上画素が重複した場合は、ピクチャ合成部３６は、メディアン値や中央値を用いて複数のものから選択した値を用いて合成してもよい。
　このように、ピクチャ合成部３６によれば、サブピクチャシーケンス単位で効率よく並列且つ独立にサブピクチャを復号することができる。その結果、サブピクチャの境界において符号化、復号処理が切れ、当該サブピクチャの境界における画質に差が生じることを防ぐことができる。その結果、高画質な画像を得ることができる。
　次に、図１０～図１２を参照して、サブピクチャシーケンスパラメータセットSSPS内に含まれるシンタックスについて、説明する。
　図１０のpic_width_in_luma_samples、pic_height_in_luma_samplesは、各々、ピクチャの輝度のサンプルの幅及び高さを示す。conformance_window_flagは、ピクチャの出力範囲（コンフォーマンスウィンドウ）を規定するconf_win_left_offset、conf_win_right_offset、conf_win_top_offset及びconf_win_bottom_offsetが符号化データに表れるかを示すフラグである。フラグが０の場合には、符号化データにはこれらの値は表れず、conf_win_left_offset、conf_win_right_offset、conf_win_top_offset、conf_win_bottom_offsetは各々０と導出する。
　conf_win_left_offset、conf_win_right_offset、conf_win_top_offset、conf_win_bottom_offsetは各々、復号ピクチャの左端からコンフォーマンスウィンドウの左端までのオフセット、復号ピクチャの右端からコンフォーマンスウィンドウの右端までのオフセット、復号ピクチャの上端からコンフォーマンスウィンドウの上端までのオフセット、復号ピクチャの下端からコンフォーマンスウィンドウの下端までのオフセットである。これらの値が全て０の場合には、コンフォーマンスウィンドウのサイズは、復号ピクチャと同じサイズである。すなわち、復号ピクチャの全体が出力される。いずれかの値が０より大きい場合には、復号ピクチャの一部がコンフォーマンスウィンドウとして出力される。
　復号ピクチャのサイズpic_width_in_luma_samples、pic_height_in_luma_samplesは処理の効率上、８、１６、３２等の整数倍、もしくは、最小のCTUサイズであるMinCbSizeYの整数倍となることが好ましい。ただし、ピクチャ合成部３６がコンフォーマンスウィンドウを用いる場合には、復号ピクチャのサイズpic_width_in_luma_samples、pic_height_in_luma_samplesは、８、１６、３２等の整数倍となっていなくてもよい。このように、ピクチャ合成部３６がコンフォーマンスウィンドウを用いる場合には、ピクチャの実サイズ（出力サイズ）が、これらの整数倍となっていない映像であっても復号することができる。
　図１０のsub_pic_left_positionは、サブピクチャの左端の画素の位置を記述する情報であり、sub_pic_top_positionは、サブピクチャの上端の画素の位置を記述する情報である。
　図１２に示されるように、sub_pic_left_position * SubWidthCは、サブピクチャの左端の輝度画素の位置を示す。また、sub_pic_top_position * SubHightCは、サブピクチャの上端の輝度画素の位置を示す。
　なお、SubWidthC及びSubHightCの値は、図１１に示されるchroma_format_idcから導かれる。図１１のChroma formatにおける各値は、色差画素の水平方向と垂直方向のサンプル構造に依存する値を示している。
　ピクチャ合成部３６は、上述のsub_pic_left_position及びsub_pic_top_position等のサブピクチャの位置を示すシンタックスを参照し、複数のサブピクチャを合成する。これにより、合成するサブピクチャの位置を特定することができる。
　図１０のsub_pic_width_in_luma_samplesは、図１２に示されるように、サブピクチャの輝度のサンプルの幅を示す。sub_pic_width_in_luma_samplesは0でなく、最小のCTUサイズであるMinCbSizeYの整数倍でなければならない。
　図１０のsub_pic_height_in_luma_samplesは、図１２に示されるように、サブピクチャの輝度のサンプルの高さを示す。sub_pic_height_in_luma_samplesは0でなく、MinCbSizeYの整数倍でなければならない。
　ピクチャ合成部３６は、上述のsub_pic_width_in_luma_samples及びsub_pic_height_in_luma_samples等のサブピクチャのサイズを示すシンタックスを参照し、複数のサブピクチャを合成する。これにより、合成するサブピクチャのサイズを特定することができる。
　（表示領域）
　図１０のdisp_win_flagは、サブピクチャ内の画素を表示するためのパラメータであるdisplay cropping window offset parametersが存在するか否かを示す。disp_win_flagの値が１である場合は、display cropping window offset parametersが存在することを意味する。display cropping window offset parametersの例として、disp_win_left_offset、disp_win_right_offset、disp_win_top_offset、及びdisp_win_bottom_offsetが挙げられる。disp_win_flagの値が0である場合は、disp_win_left_offset、disp_win_right_offset、disp_win_top_offset及びdisp_win_bottom_offsetの値は0とする。換言すると、disp_win_flagの値が0である場合は、display cropping window offset parametersは存在しないことを意味する。
　図１０のdisp_win_left_offsetは、サブピクチャの左端からのオフセットを示す。図１０のdisp_win_right_offsetは、サブピクチャの右端からのオフセットを示す。図１０のdisp_win_top_offsetは、サブピクチャの上端からのオフセットを示す。図１０のdisp_win_bottom_offsetは、サブピクチャの下端からのオフセットを示す。
　このことから、disp_win_left_offset、disp_win_right_offset、disp_win_top_offset及びdisp_win_bottom_offsetは、図１２に示されるように、実際に表示されるサブピクチャの長方形の領域を示す。
　図１２に示されるように、水平方向におけるdisplay cropping windowの領域は、disp_win_left_offset * SubWidthCから、sub_pic_width_in_luma_samples - (disp_win_right_offset * SubWidthC + 1)までの領域となる。また、display cropping windowの領域は、垂直方向におけるdisp_win_top_offset * SubHeightCから、sub_pic_height_in_luma_samples - (disp_win_bottom_offset * SubHeightC + 1)までの領域となる。
　なお、display cropping windowにおいて、複数のサプビクチャがオーバーラップする場合には、ピクチャ合成部３６は、オーバーラップ部分における複数のサブピクチャの画素値の平均値を、当該オーバーラップ部分の画素値として算出してもよい。また、ピクチャ合成部３６は、当該複数のサブピクチャのオーバーラップ部分の画素値を量子化パラメータに応じた重み付き平均値としてもよい。また、ピクチャ合成部３６は、当該複数のサブピクチャのオーバーラップ部分にフィルタリング処理を施してもよい。これらにより、複数のサブピクチャのオーバーラップ部分の符号化歪除去を行うことができる。
　また、図１２に示されるように、(disp_win_left_offset + disp_win_right_offset) *SubWidthCの値は、sub_pic_width_in_luma_samplesの値よりも小さくなければならない。また、(disp_win_top_offset + disp_win_bottom_offset) * SubHeightCの値は、sub_pic_height_in_luma_samplesの値よりも小さくならなければならない。
　ピクチャ合成部３６は、上述のdisp_win_left_offset、disp_win_right_offset、disp_win_top_offset及びdisp_win_bottom_offset等のサブピクチャのオフセットを示すシンタックスを参照し、複数のサブピクチャを合成する。これにより、合成するサブピクチャのオフセットを特定することができる。
　ピクチャ合成部３６は、サブピクチャのコンフォーマンスウィンドウ（disp_win_left_offset、disp_win_right_offset、disp_win_top_offset及びdisp_win_bottom_offset）を用いてもよい。これにより、サブピクチャの幅及び高さを、処理に適したサイズ、例えば、MinCbSizeYの最小の整数倍にしつつ、実際に出力するサイズ（実質的なサブピクチャのサイズ）を自由に設定することができる。すなわち、自由度の高いタイル配置が可能である。例えば、各サブピクチャを並列な復号ユニットに動作させる場合に、各復号ユニットの処理能力を等しくロードバランスすることに有効である。更に、キューブフォーマット等の360度映像では、画面が各フェースに区切られていることがあり、フェースに合わせてタイル（サブピクチャ）を合わせることで効率的に符号化が可能である。また、360度映像では一部の映像のみを切り出すことができようにするために、様々なタイル（サブピクチャ）サイズとすることがあるが、この場合のサブブロックサイズを自由に設定できる。
　例えば、1920x1080の画像を、4x4等のサイズのサブピクチャに区切った画像として復号する際に、サブピクチャにコンフォーマンスウィンドウがないとする。この場合、ピクチャ合成部３６は、サブピクチャのサイズをMinCbSizeYが8の整数倍とするために、左上からラスタースキャン順で以下のサブブロックのサイズにおいてサブピクチャを復号する必要がある。
480x272、480x272、480x272、480x272、
480x272、480x272、480x272、480x272、
480x272、480x272、480x272、480x272、
480x264、480x264、480x264、480x264、
　一方、ピクチャ合成部３６は、例えば、サブピクチャの復号サイズを480x272、出力サイズを480x270し、サブピクチャを復号してもよい。これにより、以下のように全て同じサイズのサブピクチャによって区切ることができる。
480x270、480x270、480x270、480x270、
480x270、480x270、480x270、480x270、
480x270、480x270、480x270、480x270、
480x270、480x270、480x270、480x270、
　この場合、disp_win_left_offse、disp_win_right_offset、disp_win_top_offsetの値を0に、disp_win_bottom_offsetの値を2とすることができる。
　また、ピクチャ合成部３６は、1920x1080の360度映像を3x2に分割するフェース毎にサブブロックとする場合は、640x544を各サブブロックの復号サイズ、640x540を各サブブロックの出力サイズとしてもよい。これにより、サブブロックのサイズとフェースのサイズとを完全に合わせることができる。この場合、disp_win_left_offse、disp_win_right_offset、disp_win_top_offsetの値を0に、disp_win_bottom_offsetの値を4とすることができる。
　また、各サブピクチャを独立に符号化・復号する場合には、各サブピクチャを超える位置にある参照画像が利用できないため、各サブピクチャの復号画像の境界部分の画質が低くなることがある。ここで、ピクチャ合成部３６がコンフォーマンスウィンドウ（disp_win_left_offset、disp_win_right_offset、disp_win_top_offset及びdisp_win_bottom_offset）を用いて、画質の低い領域を利用しなくてもよい。これにより、画質が低くなることを防ぐことができる。
　更に上述のように、ピクチャ合成部３６は、生成された復号画像の内の一部をピクチャ単位のコンフォーマンスウィンドウとして出力してもよい。すなわち、ピクチャ合成部３６は、サブピクチャ単位のコンフォーマンスウィンドウのシンタックス（disp_win_left_offset、disp_win_right_offset、disp_win_top_offset及びdisp_win_bottom_offset）と、ピクチャ単位のコンフォーマンスウィンドウのシンタックス（conf_win_left_offset、conf_win_right_offset、conf_win_top_offset、conf_win_bottom_offset）とを備える符号化データを復号することで復号画像を生成し、出力画像を出力してもよい。これにより、各サブピクチャのサイズを処理単位（例えばMinCbSizeY）によらずに自由に設定しながら、ピクチャのサイズも自由に処理単位によらずに設定することが可能である。
　　（ピクチャ合成部３６による合成の変形例）
　ピクチャ合成部３６が参照するシンタックスは上述の例に限定されない。ピクチャ合成部３６は、シーケンスパラメータセットSPS内に含まれるシンタックスを参照する構成であってもよい。
　以下に、図１３及び１４を用いて、本変形例におけるSPS内に含まれるシンタックスについて説明する。
　図１３は、シーケンスパラメータセットSPS内に含まれるシンタックスの別の例を示す図である。図１４は、シンタックスの別の例とピクチャ内の各部との対応関係を示す図である。
　ここで、図１３のsub_picture_enable_flagは、サブピクチャが使用可能であるか、すなわち、サブピクチャがピクチャ内に存在するか否かを示すフラグである。sub_picture_enable_flagの値が1である場合、ピクチャ内にサブピクチャが存在することを意味する。また、sub_picture_enable_flagの値が0である場合、サブピクチャが存在しないことを意味する。
　図１３のnum_sub_picture_hor_minus1の値に1を足した値は、水平方向におけるサブピクチャの数を示す。num_sub_picture_var_minus1の値に1を足した値は、垂直方向におけるサブピクチャの数を示す。
　uniform_spacing_flagは、各シンタックスの値が明示的に示されているか否かを示すフラグである。値が0の場合は各シンタックスの値が明示的に示されている。値が1の場合は、後述する方法によって暗黙的に各シンタックスの値が算出される。
　sub_pic_width_in_luma_samples[i]は、サブピクチャの輝度のサンプルの幅を示す。sub_pic_width_in_luma_samples[i]の値は0でなく、pic_width_in_luma_samples / (num_sub_picture_hor_minus1+1)を超える、MinCbSizeYの最小の整数倍の値を取ることとする。
　sub_pic_height_in_luma_samples[i]は、サブピクチャの輝度のサンプルの高さを示す。sub_pic_height_in_luma_samples[i]の値は0でなく、pic_height_in_luma_samples / (num_sub_picture_var_minus1+1)を超える、MinCbSizeYの最小の整数倍の値を取ることとする。
　sub_pic_left_position[i]はサブピクチャの左端の画素の位置を記述する情報であり、sub_pic_top_position[i]は、サブピクチャの上端の画素の位置を記述する情報である。色差信号のサンプル位置を考慮して、sub_pic_left_position[i] * SubWidthCは、サブピクチャの左端の輝度画素の位置を示す。sub_pic_top_position[i] * SubHightCは、サブピクチャの上端の輝度画素の位置を示す。
　sub_pic_left_position[i]は、i * (pic_width_in_luma_samples / ((num_sub_picture_hor_minus1+1) * SubWidthC))以上の最小の整数とする。sub_pic_top_position[i]は、i* (pic_height_in_luma_samples / ((num_sub_picture_var_minus1+1) * SubHeightC))
以上の最小の整数とする。後述するdisp_win_hor_flag[i], disp_win_ver_flag[i]は、0とする。
　なお、sub_pic_left_position[i]としては、0以上であってi * (pic_width_in_luma_samples / ((num_sub_picture_hor_minus1+1) * SubWidthC))以上の最小の整数から、0以上であってMinCbSizeY/SubWidthC - 1以下の特定の値を、減算した値であってもよい。同様に、sub_pic_left_position[i]についても、i * (pic_height_in_luma_samples / ((num_sub_picture_var_minus1+1) * SubHeightC))以上の最小の整数から、0以上MinCbSizeY/SubHeightC - 1以下の特定の値を減算した値であってもよい。
　なお、図１４に示すように、sub_pic_width_in_luma_samples[i]におけるiは、水平方向における各サブピクチャを示す番号である。実施形態１におけるサブピクチャシーケンスパラメータセットSSPS（図１０）は、サブピクチャシーケンス単位で割り当てられている。一方、シーケンスパラメータセットSPSの対象シーケンスには、複数のサブピクチャシーケンスが含まれているため、本変形例では、各サブピクチャに関するシンタックスは配列構造になっている。
　（uniform_spacing_flagの値が1の場合）
　uniform_spacing_flagの値が1の場合に各シンタックスを算出する方法について、例を用いて説明する。
　例えば、図１４に示すように、pic_width_in_luma_samplesの値が7680であり、pic_height_in_luma_samplesが4320である8Kx4Kのピクチャを縦横２分割する場合を例に挙げて説明する。また、sub_picture_enable_flagが1であり、MinCbSizeYが64であるとする。
　この場合、図１４に示すように、num_sub_picture_hor_minus1は1、num_sub_picture_ver_minus1は１である。
　sub_pic_width_in_luma_samples[0]及びsub_pic_width_in_luma_samples[1]は、7680/2=3840を超える64の最小の整数倍（61倍）の3904となる。sub_pic_height_in_luma_samples[0]及びsub_pic_height_in_luma_samples[1]は、4320/2=2160を超える64の最小の整数倍（34倍）の2176となる。
　また、図１４の右下のサブピクチャでは、sub_pic_left_position[1] * SubWidthCは、1*7680/2*1=3840となる。sub_pic_top_position[1] * SubWidthCは、1*4320/2*1=2160となる。
　（uniform_spacing_flagの値が0の場合）
　uniform_spacing_flagが0の場合は、上述のsub_pic_width_in_luma_samples[i]、sub_pic_height_in_luma_samples[i]、sub_pic_left_position[i]及びsub_pic_top_position[i]等の値は、明示的に定義される。例えば、uniform_spacing_flagが0の場合、sub_pic_width_in_luma_samples[i]は、sub_pic_width_in_luma_samples[0] = 3904等と具体的な値が設定される。
　（表示領域）
　図１３のdisp_win_hor_flag[i]及びdisp_win_ver_flag[i]はそれぞれ、サブピクチャ内の水平方向及び垂直方向の画素を表示するdisplay window offset parametersが存在するか否かを示す。display window offset parametersの例として、disp_win_left_offset[i]、disp_win_right_offset[i]、disp_win_top_offset、及びdisp_win_bottom_offset[i]が挙げられる。
　disp_win_hor_flag[i]の値が1の場合、disp_win_left_offset[i]及びdisp_win_right_offset[i]は存在する。disp_win_hor_flag[i]の値が0の場合、disp_win_top_offset[i]及びdisp_win_bottom_offset[i]の値は0である。換言すると、disp_win_hor_flag[i]の値が0の場合、水平方向に関するdisplay window offset parametersは存在しないことを意味している。
　また、disp_win_ver_flag[i]の値が1の場合、disp_win_top_offset[i]及びdisp_win_bottom_offset[i]は存在する。disp_win_ver_flag[i]の値が0の場合、disp_win_top_offset[i]及びdisp_win_bottom_offset[i]の値は0である。換言すると、disp_win_ver_flag[i]の値が0の場合、垂直方向に関するdisplay window offset parametersは存在しないことを意味している。
　disp_win_left_offset[i]、disp_win_right_offset[i]、disp_win_top_offset[i]及びdisp_win_bottom_offset[i]は、サブピクチャを表示する長方形の領域を定義する。
　水平方向におけるdisplay cropping windowの領域は、sub_pic_left_position[i] * SubWidthC + disp_win_left_offset[i] * SubWidthCから、sub_pic_left_position[i] * SubWidthC + sub_pic_width_in_luma_samples[i] - (disp_win_right_offset[i] * SubWidthC+ 1)までの領域となる。また、垂直方向におけるdisplay cropping windowの領域は、sub_pic_top_position[i] * SubHeightC + disp_win_top_offset[i] * SubHeightCから、sub_pic_top_position[i] * SubHeightC + sub_pic_height_in_luma_samples[i] - (disp_win_bottom_offset[i] * SubHeightC+ 1)までの領域となる。
　また、(disp_win_left_offset[i] + disp_win_right_offset[i]) * SubWidthCの値は、pic_width_in_luma_samples[i]の値よりも小さくなければならない。また、(disp_win_top_offset[i] + disp_win_bottom_offset[i]) * SubHeightCの値は、sub_pic_height_in_luma_samples[i]の値よりも小さくならなければならない。
　なお、図１４に示すように、サブピクチャの一部がピクチャの外側に配置することができる。この場合、ピクチャ合成部３６は、ピクチャの外側に配置された領域について、ピクチャのパディングの値を参照する。
　また、各サブピクチャの大きさを同じ大きさにすることによって、ピクチャの外側にサブピクチャの一部が配置される構成であっても、効率よく復号処理を実行できる。
　　（画像符号化装置の構成）
　次に、本実施形態に係る画像符号化装置１１の構成について説明する。図５は、本実施形態に係る画像符号化装置１１の構成を示すブロック図である。画像符号化装置１１は、ピクチャ分割部１２、サブピクチャ符号化部１３ａ～１３ｎ及びNAL生成部１６を含んで構成される。
　ピクチャ分割部１２は、画像T（ピクチャ）を、各画像T内に設定される、互いに重複することが許容された複数のサブピクチャに分割し、当該サブピクチャをサブピクチャ符号化部１３ａ～１３ｎに伝送する。
　また、ピクチャ分割部１２は、サブピクチャ情報を生成し、当該サブピクチャ情報をNAL生成部１６に伝送する。
　サブピクチャ符号化部１３ａ～１３ｎは、サブピクチャをそれぞれ符号化する。また、サブピクチャ符号化部１３ａ～１３ｎは、サブピクチャシーケンス単位でサブピクチャを符号化する。このように、サブピクチャ符号化部１３ａ～１３ｎによれば、サブピクチャを効率よく並列に符号化処理することができる。
　ここで、サブピクチャ符号化部１３ａ～１３ｎは、１つの独立なビデオシーケンスとして符号化処理を行い、サブピクチャシーケンス間の予測情報は、符号化処理を行う際に時間的にも空間的にも参照しない。すなわち、サブピクチャ符号化部１３ａ～１３ｎは、あるピクチャ内のサブピクチャを符号化する場合に、別のサブピクチャを参照しない。
　NAL生成部１６は、ピクチャ分割部１２から伝送されたサブピクチャ情報と、サブピクチャ符号化部１３ａ～１３ｎがサブピクチャを符号化して、NALユニット単位で符号化ストリームTeを生成する。
　このように、画像符号化装置１１によれば、ピクチャを互いに重複することが許容された複数のサブピクチャに分割するため、正確な動きベクトルが得られない等の理由により、各サブピクチャの端の画質に差が生じることを防ぐことができる。また、画像符号化装置１１によれば、画像復号装置において各サブピクチャを合成した場合に、各サブピクチャの境界に画質の差が生じることも防ぐことができる。その結果、画像符号化装置１１によれば、高画質な画像を得ることができる。
　　（サブピクチャ符号化部の構成）
　次に、サブピクチャ符号化部１３ａ～１３ｎの構成について説明する。以下に一例として、サブピクチャ符号化部１３ａの構成を、図６を用いて説明する。図６は、サブピクチャ符号化部１３ａの構成を示すブロック図である。
　サブピクチャ符号化部１３ａは、予測画像生成部１０１、減算部１０２、変換・量子化部１０３、エントロピー符号化部１０４、逆量子化・逆変換部１０５、加算部１０６、ループフィルタ１０７、予測パラメータメモリ（予測パラメータ記憶部、フレームメモリ）１０８、参照ピクチャメモリ（参照画像記憶部、フレームメモリ）１０９、符号化パラメータ決定部１１０、及び、予測パラメータ符号化部１１１を含んで構成される。予測パラメータ符号化部１１１は、インター予測パラメータ符号化部１１２及びイントラ予測パラメータ符号化部１１３を含んで構成される。
　予測画像生成部１０１は画像Tの各ピクチャについて、そのピクチャを分割した領域である符号化ユニットCU毎に予測ユニットPUの予測画像Ｐを生成する。ここで、予測画像生成部１０１は、予測パラメータ符号化部１１１から入力された予測パラメータに基づいて参照ピクチャメモリ１０９から復号済のブロックを読み出す。予測パラメータ符号化部１１１から入力された予測パラメータとは、例えばインター予測の場合、動きベクトルである。予測画像生成部１０１は、対象PUを起点として動きベクトルが示す参照ピクチャ上の位置にあるブロックを読み出す。またイントラ予測の場合、予測パラメータとは例えばイントラ予測モードである。イントラ予測モードにおいて使用する隣接PUの画素値を参照ピクチャメモリ１０９から読み出し、PUの予測画像Pを生成する。予測画像生成部１０１は、読み出した参照ピクチャブロックについて複数の予測方式のうちの１つの予測方式を用いてPUの予測画像Ｐを生成する。予測画像生成部１０１は、生成したPUの予測画像Ｐを減算部１０２に出力する。
　なお、予測画像生成部１０１は、既に説明した予測画像生成部３０８と同じ動作である。例えば、図７は、予測画像生成部１０１に含まれるインター予測画像生成部１０１１の構成を示すブロック図である。インター予測画像生成部１０１１は、動き補償部１０１１１、重み予測部１０１１２を含んで構成される。動き補償部１０１１１及び重み予測部１０１１２については、上述の動き補償部３０９１、重み予測部３０９４のそれぞれと同様の構成であるためここでの説明を省略する。
　予測画像生成部１０１は、予測パラメータ符号化部から入力されたパラメータを用いて、参照ピクチャメモリから読み出した参照ブロックの画素値をもとにPUの予測画像Pを生成する。予測画像生成部１０１によって生成された予測画像は減算部１０２、加算部１０６に出力される。
　減算部１０２は、予測画像生成部１０１から入力されたPUの予測画像Ｐの信号値を、画像Tの対応するPUの画素値から減算して、残差信号を生成する。減算部１０２は、生成した残差信号を変換・量子化部１０３に出力する。
　変換・量子化部１０３は、減算部１０２から入力された残差信号について周波数変換を行い、変換係数を算出する。変換・量子化部１０３は、算出した変換係数を量子化して量子化係数を求める。変換・量子化部１０３は、求めた量子化係数をエントロピー符号化部１０４及び逆量子化・逆変換部１０５に出力する。
　エントロピー符号化部１０４には、変換・量子化部１０３から量子化係数が入力され、予測パラメータ符号化部１１１から符号化パラメータが入力される。入力される符号化パラメータには、例えば、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLX、予測モードpredMode、及びマージインデックスmerge_idx等の符号がある。
　エントロピー符号化部１０４は、入力された量子化係数と符号化パラメータをエントロピー符号化して符号化ストリームTeを生成し、生成した符号化ストリームTeを外部に出力する。
　逆量子化・逆変換部１０５は、変換・量子化部１０３から入力された量子化係数を逆量子化して変換係数を求める。逆量子化・逆変換部１０５は、求めた変換係数について逆周波数変換を行い、残差信号を算出する。逆量子化・逆変換部１０５は、算出した残差信号を加算部１０６に出力する。
　加算部１０６は、予測画像生成部１０１から入力されたPUの予測画像Ｐの信号値と逆量子化・逆変換部１０５から入力された残差信号の信号値を画素毎に加算して、復号画像を生成する。加算部１０６は、生成した復号画像を参照ピクチャメモリ１０９に記憶する。
　ループフィルタ１０７は加算部１０６が生成した復号画像に対し、デブロッキングフィルタ、サンプル適応オフセット（SAO）、適応ループフィルタ（ALF）を施す。
　予測パラメータメモリ１０８は、符号化パラメータ決定部１１０が生成した予測パラメータを、符号化対象のピクチャ及びCU毎に予め定めた位置に記憶する。
　参照ピクチャメモリ１０９は、ループフィルタ１０７が生成した復号画像を、符号化対象のピクチャ及びCU毎に予め定めた位置に記憶する。
　符号化パラメータ決定部１１０は、符号化パラメータの複数のセットのうち、１つのセットを選択する。符号化パラメータとは、上述した予測パラメータやこの予測パラメータに関連して生成される符号化の対象となるパラメータである。予測画像生成部１０１は、これらの符号化パラメータのセットの各々を用いてPUの予測画像Ｐを生成する。
　符号化パラメータ決定部１１０は、複数のセットの各々について情報量の大きさと符号化誤差を示すコスト値を算出する。コスト値は、例えば、符号量と二乗誤差に係数λを乗じた値との和である。符号量は、量子化誤差と符号化パラメータをエントロピー符号化して得られる符号化ストリームTeの情報量である。二乗誤差は、減算部１０２において算出された残差信号の残差値の二乗値についての画素間の総和である。係数λは、予め設定されたゼロよりも大きい実数である。符号化パラメータ決定部１１０は、算出したコスト値が最小となる符号化パラメータのセットを選択する。これにより、エントロピー符号化部１０４は、選択した符号化パラメータのセットを符号化ストリームTeとして外部に出力し、選択されなかった符号化パラメータのセットを出力しない。符号化パラメータ決定部１１０は決定した符号化パラメータを予測パラメータメモリ１０８に記憶する。
　予測パラメータ符号化部１１１は、符号化パラメータ決定部１１０から入力されたパラメータから、符号化するための形式を導出し、エントロピー符号化部１０４に出力する。符号化するための形式の導出とは、例えば動きベクトルと予測ベクトルから差分ベクトルを導出することである。また予測パラメータ符号化部１１１は、符号化パラメータ決定部１１０から入力されたパラメータから予測画像を生成するために必要なパラメータを導出し、予測画像生成部１０１に出力する。予測画像を生成するために必要なパラメータとは、例えばサブブロック単位の動きベクトルである。
　インター予測パラメータ符号化部１１２は、符号化パラメータ決定部１１０から入力された予測パラメータに基づいて、差分ベクトルのようなインター予測パラメータを導出する。インター予測パラメータ符号化部１１２は、予測画像生成部１０１に出力する予測画像の生成に必要なパラメータを導出する構成として、インター予測パラメータ復号部３０３（図９等、参照）がインター予測パラメータを導出する構成と一部同一の構成を含む。
　イントラ予測パラメータ符号化部１１３は、符号化パラメータ決定部１１０から入力されたイントラ予測モードIntraPredModeから、符号化するための形式（例えばMPM_idx、rem_intra_luma_pred_mode等）を導出する。
　〔実施形態２〕
　実施形態１では、画像符号化装置１１及び画像復号装置３１は、サブピクチャシーケンス単位で符号化・復号処理を行っているが、本実施形態に係る画像伝送システム２のように、ピクチャ単位でサブピクチャを符号化及び復号してもよい。
　実施形態２について、図１５～２０及び２４を参照して説明する。なお、説明の便宜上、実施形態１にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
　図２４は、実施形態２に係る画像伝送システム２の構成を示す概略図である。
　図２４に示すように、画像伝送システム２は、実施形態１における画像符号化装置１１及び画像復号装置３１の代わりに、画像符号化装置１７及び画像復号装置３７を備えている。この点以外は、画像伝送システム２は、画像伝送システム１と同様の構成である。
　　＜符号化ストリームTeの構造＞
　図１５は、実施形態２における符号化ストリームTeの階層構造を示す図である。符号化ストリームTeは、例示的に、シーケンス、及びシーケンスを構成する複数のピクチャを含む。図１５の（ａ）は、シーケンスSEQを既定する符号化ビデオシーケンスである。図１５の（ｂ）は、ピクチャPICTを規定する符号化ピクチャを示す図である。なお、図１５の（ｃ）～（ｇ）は、図１の（ｃ）～（ｇ）と同じであるため、説明は省略する。
　　（符号化ビデオシーケンス）
　符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために画像復号装置３１が参照するデータの集合が規定されている。シーケンスSEQは、図１５の（ａ）に示すように、ビデオパラメータセットVPS、シーケンスパラメータセットSPS、サブピクチャシーケンスパラメータセットSSPS、ピクチャパラメータセットPPS、ピクチャPICT、及び、付加拡張情報SEIを含んでいる。ここで＃の後に示される値はレイヤIDを示す。図１５では、#0と#1すなわちレイヤ０とレイヤ１の符号化データが存在する例を示すが、レイヤの種類及びレイヤの数はこれによらない。
　　（符号化ピクチャ）
　　符号化ピクチャでは、処理対象のピクチャPICTを復号するために画像復号装置３１が参照するデータの集合が規定されている。ピクチャPICTは、図１５の（ｂ）に示すように、サブピクチャSPICT0～SPICTNSP-1を含んでいる（NSPはピクチャPICTに含まれるサブピクチャの総数）。
　なお、サブピクチャの総数については、プロファイルやレベル等によって規定される画像復号装置３７の能力による制限によって規定されてもよい。
　　（画像復号装置の構成）
　次に、本実施形態に係る画像復号装置３７の構成について説明する。図１８は、本実施形態に係る画像復号装置３７の構成を示すブロック図である。
　画像復号装置３７は、実施形態１におけるサブピクチャ復号部３３ａ～３３ｎ及びピクチャ合成部３６の代わりに、サブピクチャ復号部３８ａ～３８ｎ及びピクチャ合成部３９を含んで構成される。これらの点以外は、画像復号装置３７は、画像復号装置３１と同様の構成である。
　サブピクチャ復号部３８ａ～３８ｎは、サブピクチャに関する符号化ストリームを、各々のサブピクチャに復号する。
　なお、サブピクチャ復号部３８ａ～３８ｎは、実施形態１におけるサブピクチャ復号部３３ａ～３３ｎと異なり、１つの独立なビデオシーケンスではなく、１つの独立なピクチャとして復号処理を行う。また、サブピクチャ復号部３８ａ～３８ｎは、空間方向のサブピクチャ間の予測情報の参照は行わないが、時間方向のサブピクチャ間の予測情報を参照してもよい。これにより、サブピクチャ復号部３８ａ～３８ｎによれば、サブピクチャ復号部３３ａ～３３ｎよりも効率よくサブピクチャを復号することができる。
　ピクチャ合成部３９は、サブピクチャ復号部３８ａ～３８ｎによって復号された複数のサブピクチャを、互いに重複することが許容されるように復号のループ内でピクチャ内に合成し、参照ピクチャ（複数のサブピクチャを合成したピクチャ）を生成する。
　続いて、サブピクチャ復号部３８ａ～３８ｎは、ピクチャ合成部３９によって生成された参照ピクチャを参照し、各々サブピクチャを復号する。
　ピクチャ合成部３９は、各々復号されたサブピクチャを復号のループ内で合成し、復号画像Tdを生成する。
　このように、実施形態２に係る画像復号装置３７によれば、一度復号されたサブピクチャをピクチャ合成部３９がピクチャに合成し、当該ピクチャをサブピクチャ復号部３８ａ～３８ｎが参照して、サブピクチャを復号する。
　この構成によれば、画像復号装置３７は、ピクチャ単位でサブピクチャを効率よく並列且つ独立に復号することができる。
　　（サブピクチャ復号部の構成）
　サブピクチャ復号部３８ａ～３８ｎの構成について説明する。以下に一例として、サブピクチャ復号部３８ａの構成を、図１９を用いて説明する。図１９は、サブピクチャ復号部３８ａの構成を示すブロック図である。
　サブピクチャ復号部３８ａは、実施形態１のサブピクチャ復号部３３ａにおける参照ピクチャメモリ３０６を備えておらず、実施形態１における予測画像生成部３０８の代わりに、予測画像生成部３１３を備えている。この点以外は、サブピクチャ復号部３８ａは、サブピクチャ復号部３３ａ同様の構成である。
　図１９に示されるように、予測画像生成部３１３は、実施形態１における参照ピクチャメモリ３０６に記憶されている参照ピクチャの代わりに、ピクチャ合成部３９がサブピクチャを合成することによって生成した参照ピクチャを参照し、予測画像を生成する。この点以外は、予測画像生成部３１３は、予測画像生成部３０８と同様に予測画像を生成する。
　このように、ピクチャ合成部３９がサブピクチャを合成することによって生成した参照ピクチャを参照するため、予測画像生成部３１３によれば、予測画像生成部３０８と同様に予測画像を生成することができる。
　　（ピクチャ合成部３９による合成例）
　以下に、ピクチャ合成部３９による合成例について、図２０を用いて詳細に説明する。
　図２０は、ピクチャ合成部３９が参照する、ピクチャパラメータセットPPS内に含まれるシンタックスの一例を示す図である。
　ピクチャ合成部３９は、図２０に示されるようなピクチャパラメータセットPPS内に含まれるシンタックスを参照する。続いて、ピクチャ合成部３９は、複数のサブピクチャを、互いに重複することが許容されるようにピクチャ内に合成する。
　なお、サブピクチャ間に隙間が発生する場合、すなわち、ピクチャ内の画素が、各サブピクチャにない場合には、ピクチャ合成部３６は、所定の画素値によって埋めてもよい。ピクチャ合成部３６は、重複した画素については、サブピクチャ間での同一画素位置の画素値の重み付き平均の値を用いてもよい。また、３つ以上の場合は、ピクチャ合成部３６は、メディアン値や中央値を用いて複数のものから選択した値を用いて合成してもよい。
　ピクチャ合成部３９での画像の生成方法については、復号のループ内にあるため、符号化側と復号側で同じ方法を用いることとする。このことを実現するために、ピクチャパラメータセットPPSによって特定のシンタクスを用意して、複数の方法を切り替えてもよい。
　ここで、図２０に示される各シンタックスは、ピクチャパラメータセットPPS内に含まれている点以外は、実施形態１のサブピクチャシーケンスパラメータセットSSPS内又はシーケンスパラメータセットSPS内に含まれるシンタックスと同様である。
　そのため、ピクチャ合成部３９は、ピクチャパラメータセットPPS内に含まれる、サブピクチャの位置を示すシンタックスを参照して複数のサブピクチャを合成する。これにより、合成するサブピクチャの位置を特定することができる。
　また、ピクチャ合成部３９は、ピクチャパラメータセットPPS内に含まれる、サブピクチャのサイズを示すシンタックスを参照して複数のサブピクチャを合成する。
これにより、合成するサブピクチャのサイズを特定することができる。
　また、ピクチャ合成部３９は、ピクチャパラメータセットPPS内に含まれる、サブピクチャのオフセットを示すシンタックスを参照して複数のサブピクチャを合成する。これにより、合成するサブピクチャのオフセットを特定することができる。
　　（画像符号化装置の構成）
　次に、本実施形態の画像符号化装置１７の構成について説明する。図１６は、本実施形態に係る画像符号化装置１７の構成を示すブロック図である。
　画像符号化装置１７は、実施形態１におけるサブピクチャ符号化部１３ａ～１３ｎの代わりに、サブピクチャ符号化部１８ａ～１８ｎを含み、ピクチャ合成部１９を更に含んで構成される。これらの点以外は、画像符号化装置１７は、画像符号化装置１１と同様の構成である。
　サブピクチャ符号化部１８ａ～１８ｎは、互いに重複することが許容されたサブピクチャをそれぞれ符号化する。
　なお、サブピクチャ符号化部１８ａ～１８ｎは、実施形態１における１３ａ～１３ｎと異なり、１つの独立なビデオシーケンスではなく、１つの独立なピクチャとして符号化処理を行う。また、サブピクチャ符号化部１８ａ～１８ｎは、空間方向のサブピクチャ間の予測情報の参照は行わないが、時間方向のサブピクチャ間の予測情報を参照してもよい。これにより、サブピクチャ符号化部１８ａ～１８ｎによれば、サブピクチャ符号化部１３ａ～１３ｎよりも効率よくサブピクチャを符号化することができる。
　ピクチャ合成部１９は、局部復号したサブピクチャを合成して参照ピクチャを生成する。
　続いて、サブピクチャ符号化部１８ａ～１８ｎは、ピクチャ合成部１９によって生成された参照ピクチャを参照し、サブピクチャをそれぞれ符号化し、NAL生成部１６に伝送する。
　NAL生成部１６は、ピクチャ分割部１２から伝送されたサブピクチャ情報と、サブピクチャ符号化部１８ａ～１８ｎによって符号化された符号化サブピクチャとから、NALユニット単位で符号化された符号化ストリームTeを生成する。
　このように、画像符号化装置１７によれば、一度符号化したサブピクチャをピクチャ合成部１９が合成し、参照ピクチャをサブピクチャ符号化部１８ａ～１８ｎが参照して符号化する。
　これにより、画像符号化装置１７は、ピクチャ単位でサブピクチャを効率よく並列且つ独立に符号化することができる。
　　（サブピクチャ符号化部の構成）
　次に、サブピクチャ符号化部１８ａ～１８ｎの構成について説明する。以下に一例として、サブピクチャ符号化部１８ａの構成を、図１７を用いて説明する。図１７は、サブピクチャ符号化部１８ａの構成を示すブロック図である。
　サブピクチャ符号化部１８ａは、実施形態１における参照ピクチャメモリ１０９を備えておらず、実施形態１における予測画像生成部１０１の代わりに、予測画像生成部１１４を備えている。この点以外は、予測画像生成部１１４は、予測画像生成部１０１と同様の構成である。
　図１７に示されるように、予測画像生成部１１４は、実施形態１における参照ピクチャメモリ１０９に記憶されている復号済のブロックを読み出す代わりに、ピクチャ合成部１９によって生成された参照ピクチャを参照し、予測画像を生成する。
　このように、ピクチャ合成部１９が生成した参照ピクチャを参照することで、予測画像生成部１１４は、予測画像生成部１０１と同様に予測画像を生成することができる。
　〔付記事項〕
　なお、上述した実施形態１、２における画像符号化装置１１、１７、画像復号装置３１、３７の一部、例えば、エントロピー復号部３０１、予測パラメータ復号部３０２、ループフィルタ３０５、予測画像生成部３０８、逆量子化・逆変換部３１１、加算部３１２、予測画像生成部１０１、減算部１０２、変換・量子化部１０３、エントロピー符号化部１０４、逆量子化・逆変換部１０５、ループフィルタ１０７、符号化パラメータ決定部１１０、予測パラメータ符号化部１１１をコンピュータによって実現するようにしてもよい。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、画像符号化装置１１、１７、画像復号装置３１、３７のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。更に「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、更に前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせによって実現できるものであってもよい。
　また、上述した実施形態における画像符号化装置１１、１７、画像復号装置３１、３７の一部、又は全部を、LSI（Large Scale Integration）等の集積回路として実現してもよい。画像符号化装置１１、１７、画像復号装置３１、３７の各機能ブロックは個別にプロセッサ化してもよいし、一部、又は全部を集積してプロセッサ化してもよい。また、集積回路化の手法はＬＳＩに限らず専用回路、又は汎用プロセッサによって実現してもよい。また、半導体技術の進歩によりＬＳＩに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
　以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
　〔応用例〕
　上述した画像符号化装置１１、１７及び画像復号装置３１、３７は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像（CG及びGUIを含む）であってもよい。
　まず、上述した画像符号化装置１１、１７及び画像復号装置３１、３７を、動画像の送信及び受信に利用できることを、図２１を参照して説明する。
　図２１の（ａ）は、画像符号化装置１１、１７を搭載した送信装置PROD_Aの構成を示したブロック図である。図２１の（ａ）に示すように、送信装置PROD_Aは、動画像を符号化することによって符号化データを得る符号化部PROD_A1と、符号化部PROD_A1が得た符号化データによって搬送波を変調することで変調信号を得る変調部PROD_A2と、変調部PROD_A2が得た変調信号を送信する送信部PROD_A3と、を備えている。上述した画像符号化装置１１、１７は、この符号化部PROD_A1として利用される。
　送信装置PROD_Aは、符号化部PROD_A1に入力する動画像の供給源として、動画像を撮像するカメラPROD_A4、動画像を記録した記録媒体PROD_A5、動画像を外部から入力するための入力端子PROD_A6、及び、画像を生成又は加工する画像処理部Ａ７を更に備えていてもよい。図２１の（ａ）においては、これら全てを送信装置PROD_Aが備えた構成を例示しているが、一部を省略しても構わない。
　なお、記録媒体PROD_A5は、符号化されていない動画像を記録したものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式によって符号化された動画像を記録したものであってもよい。後者の場合、記録媒体PROD_A5と符号化部PROD_A1との間に、記録媒体PROD_A5から読み出した符号化データを記録用の符号化方式に従って復号する復号部（不図示）を介在させるとよい。
　図２１の（ｂ）は、画像復号装置３１、３７を搭載した受信装置PROD_Bの構成を示したブロック図である。図２１の（ｂ）に示すように、受信装置PROD_Bは、変調信号を受信する受信部PROD_B1と、受信部PROD_B1が受信した変調信号を復調することによって符号化データを得る復調部PROD_B2と、復調部PROD_B2が得た符号化データを復号することによって動画像を得る復号部PROD_B3と、を備えている。上述した画像復号装置３１、３７は、この復号部PROD_B3として利用される。
　受信装置PROD_Bは、復号部PROD_B3が出力する動画像の供給先として、動画像を表示するディスプレイPROD_B4、動画像を記録するための記録媒体PROD_B5、及び、動画像を外部に出力するための出力端子PROD_B6を更に備えていてもよい。図２１の（ｂ）においては、これら全てを受信装置PROD_Bが備えた構成を例示しているが、一部を省略しても構わない。
　なお、記録媒体PROD_B5は、符号化されていない動画像を記録するためのものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式によって符号化されたものであってもよい。後者の場合、復号部PROD_B3と記録媒体PROD_B5との間に、復号部PROD_B3から取得した動画像を記録用の符号化方式に従って符号化する符号化部（不図示）を介在させるとよい。
　なお、変調信号を伝送する伝送媒体は、無線であってもよいし、有線であってもよい。また、変調信号を伝送する伝送態様は、放送（ここでは、送信先が予め特定されていない送信態様を指す）であってもよいし、通信（ここでは、送信先が予め特定されている送信態様を指す）であってもよい。すなわち、変調信号の伝送は、無線放送、有線放送、無線通信、及び有線通信の何れによって実現してもよい。
　例えば、地上デジタル放送の放送局（放送設備等）／受信局（テレビジョン受像機等）は、変調信号を無線放送で送受信する送信装置PROD_A／受信装置PROD_Bの一例である。また、ケーブルテレビ放送の放送局（放送設備等）／受信局（テレビジョン受像機等）は、変調信号を有線放送によって送受信する送信装置PROD_A／受信装置PROD_Bの一例である。
　また、インターネットを用いたVOD（Video On Demand）サービスや動画共有サービス等のサーバ（ワークステーション等）／クライアント（テレビジョン受像機、パーソナルコンピュータ、スマートフォン等）は、変調信号を通信によって送受信する送信装置PROD_A／受信装置PROD_Bの一例である（通常、ＬＡＮにおいては伝送媒体として無線又は有線の何れかが用いられ、ＷＡＮにおいては伝送媒体として有線が用いられる）。ここで、パーソナルコンピュータには、デスクトップ型PC、ラップトップ型PC、及びタブレット型PCが含まれる。また、スマートフォンには、多機能携帯電話端末も含まれる。
　なお、動画共有サービスのクライアントは、サーバからダウンロードした符号化データを復号してディスプレイに表示する機能に加え、カメラによって撮像された動画像を符号化してサーバにアップロードする機能を有している。すなわち、動画共有サービスのクライアントは、送信装置PROD_A及び受信装置PROD_Bの双方として機能する。
　次に、上述した画像符号化装置１１、１７及び画像復号装置３１、３７を、動画像の記録及び再生に利用できることを、図２２を参照して説明する。
　図２２の（ａ）は、上述した画像符号化装置１１、１７を搭載した記録装置PROD_Cの構成を示したブロック図である。図２２の（ａ）に示すように、記録装置PROD_Cは、動画像を符号化することによって符号化データを得る符号化部PROD_C1と、符号化部PROD_C1が得た符号化データを記録媒体PROD_Mに書き込む書込部PROD_C2と、を備えている。上述した画像符号化装置１１、１７は、この符号化部PROD_C1として利用される。
　なお、記録媒体PROD_Mは、（１）HDD（Hard Disk Drive）及びSSD(Solid State Drive)等のように、記録装置PROD_Cに内蔵されるタイプのものであってもよい。また、記録媒体PROD_Mは、（２）SDメモリカードやUSB（Universal Serial Bus）フラッシュメモリ等のように、記録装置PROD_Cに接続されるタイプのものであってもよい。また、記録媒体PROD_Mは、（３）DVD（Digital Versatile Disc）やBD（Blu-ray Disc:登録商標）等のように、記録装置PROD_Cに内蔵されたドライブ装置（不図示）に装填されるものであってもよい。
　また、記録装置PROD_Cは、符号化部PROD_C1に入力する動画像の供給源として、動画像を撮像するカメラPROD_C3、動画像を外部から入力するための入力端子PROD_C4、動画像を受信するための受信部PROD_C5、及び、画像を生成又は加工する画像処理部PROD_C6を更に備えていてもよい。図２２の（ａ）においては、これら全てを記録装置PROD_Cが備えた構成を例示しているが、一部を省略しても構わない。
　なお、受信部PROD_C5は、符号化されていない動画像を受信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式によって符号化された符号化データを受信するものであってもよい。後者の場合、受信部PROD_C5と符号化部PROD_C1との間に、伝送用の符号化方式によって符号化された符号化データを復号する伝送用復号部（不図示）を介在させるとよい。
　このような記録装置PROD_Cとしては、例えば、DVDレコーダ、BDレコーダ、HDD（Hard Disk Drive）レコーダ等が挙げられる（この場合、入力端子PROD_C4又は受信部PROD_C5が動画像の主な供給源となる）。また、カムコーダ（この場合、カメラPROD_C3が動画像の主な供給源となる）、パーソナルコンピュータ（この場合、受信部PROD_C5又は画像処理部Ｃ６が動画像の主な供給源となる）、スマートフォン（この場合、カメラPROD_C3又は受信部PROD_C5が動画像の主な供給源となる）等も、このような記録装置PROD_Cの一例である。
　図２２の（ｂ）は、上述した画像復号装置３１、３７を搭載した再生装置PROD_Dの構成を示したブロックである。図２２の（ｂ）に示すように、再生装置PROD_Dは、記録媒体PROD_Mに書き込まれた符号化データを読み出す読出部PROD_D1と、読出部PROD_D1が読み出した符号化データを復号することによって動画像を得る復号部PROD_D2と、を備えている。上述した画像復号装置３１、３７は、この復号部PROD_D2として利用される。
　なお、記録媒体PROD_Mは、（１）HDDやSSD等のように、再生装置PROD_Dに内蔵されるタイプのものであってもよい。また、記録媒体PROD_Mは、（２）SDメモリカードやUSBフラッシュメモリ等のように、再生装置PROD_Dに接続されるタイプのものであってもよい。また、記録媒体PROD_Mは、（３）DVDやBD等のように、再生装置PROD_Dに内蔵されたドライブ装置（不図示）に装填されるものであってもよい。
　また、再生装置PROD_Dは、復号部PROD_D2が出力する動画像の供給先として、動画像を表示するディスプレイPROD_D3、動画像を外部に出力するための出力端子PROD_D4、及び、動画像を送信する送信部PROD_D5を更に備えていてもよい。図２２の（ｂ）においては、これら全てを再生装置PROD_Dが備えた構成を例示しているが、一部を省略しても構わない。
　なお、送信部PROD_D5は、符号化されていない動画像を送信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式によって符号化された符号化データを送信するものであってもよい。後者の場合、復号部PROD_D2と送信部PROD_D5との間に、動画像を伝送用の符号化方式によって符号化する符号化部（不図示）を介在させるとよい。
　このような再生装置PROD_Dとしては、例えば、DVDプレイヤ、BDプレイヤ、HDDプレイヤ等が挙げられる（この場合、テレビジョン受像機等が接続される出力端子PROD_D4が動画像の主な供給先となる）。また、テレビジョン受像機（この場合、ディスプレイPROD_D3が動画像の主な供給先となる）、デジタルサイネージ（電子看板や電子掲示板等とも称される。また、ディスプレイPROD_D3又は送信部PROD_D5が動画像の主な供給先となる）、デスクトップ型PC（この場合、出力端子PROD_D4又は送信部PROD_D5が動画像の主な供給先となる）、ラップトップ型又はタブレット型PC（この場合、ディスプレイPROD_D3又は送信部PROD_D5が動画像の主な供給先となる）、スマートフォン（この場合、ディスプレイPROD_D3又は送信部PROD_D5が動画像の主な供給先となる）等も、このような再生装置PROD_Dの一例である。
　　（ハードウェア的実現及びソフトウェア的実現）
　上述した画像復号装置３１、３７及び画像符号化装置１１、１７の各ブロックは、集積回路（ICチップ）上に形成された論理回路によってハードウェア的に実現してもよい。また、画像復号装置３１、３７及び画像符号化装置１１、１７の各ブロックは、CPU（Central Processing Unit）を用いてソフトウェア的に実現してもよい。
　後者の場合、上記各装置は、各機能を実現するプログラムの命令を実行するCPU、上記プログラムを格納したROM（Read Only Memory）、上記プログラムを展開するRAM（Random Access Memory）、及び、上記プログラム及び各種データを格納するメモリ等の記憶装置（記録媒体）等を備えている。そして、本発明の実施形態の目的は、上述した機能を実現するソフトウェアである上記各装置の制御プログラムのプログラムコード（実行形式プログラム、中間コードプログラム、ソースプログラム）をコンピュータによって読み取り可能に記録した記録媒体を、上記各装置に供給し、そのコンピュータ（又はCPUやMPU）が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
　上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやCD-ROM（Compact Disc Read-Only Memory）／MOディスク（Magneto-Optical disc）／MD（Mini Disc）／DVD（Digital Versatile Disc）／CD-R（CD Recordable）／ブルーレイディスク（Blu-ray Disc：登録商標）等の光ディスクを含むディスク類、ICカード（メモリカードを含む）／光カード等のカード類、マスクROM／EPROM（Erasable Programmable Read-Only Memory）／EEPROM（Electrically Erasable and Programmable Read-Only Memory：登録商標）／フラッシュROM等の半導体メモリ類、あるいはPLD（Programmable logic device）やFPGA（Field Programmable Gate Array）等の論理回路類等を用いることができる。
　また、上記各装置を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークは、プログラムコードを伝送可能であればよく、特に限定されない。例えば、インターネット、イントラネット、エキストラネット、LAN（Local Area Network）、ISDN（Integrated Services Digital Network）、VAN（Value-Added Network）、CATV（Community Antenna television/Cable Television）通信網、仮想専用網（Virtual Private Network）、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成又は種類のものに限定されない。例えば、IEEE（Institute of Electrical and Electronic Engineers）1394、USB、電力線搬送、ケーブルＴＶ回線、電話線、ADSL（Asymmetric Digital Subscriber Line）回線等の有線でも、IrDA（Infrared Data Association）やリモコンのような赤外線、Bluetooth（登録商標）、IEEE802.11無線、HDR（High Data Rate）、NFC（Near Field Communication）、DLNA（Digital Living Network Alliance：登録商標）、携帯電話網、衛星回線、地上デジタル放送網等の無線でも利用可能である。なお、本発明の実施形態は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
　本発明の実施形態は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
　（関連出願の相互参照）
　本出願は、２０１７年５月３１日に出願された日本国特許出願：特願２０１７－１０８７５８に対して優先権の利益を主張するものであり、それを参照することにより、その内容の全てが本書に含まれる。
　本発明の実施形態は、画像データが符号化された符号化データを復号する画像復号装置、及び、画像データが符号化された符号化データを生成する画像符号化装置に好適に適用することができる。また、画像符号化装置によって生成され、画像復号装置によって参照される符号化データのデータ構造に好適に適用することができる。
１１、１７　画像符号化装置（動画像符号化装置）
１２　ピクチャ分割部
１３ａ～１３ｎ、１８ａ～１８ｎ　サブピクチャ符号化部
３１、３７　画像復号装置（動画像復号装置）
３３ａ～３３ｎ、３８ａ～３８ｎ　サブピクチャ復号部
１９、３６、３９　ピクチャ合成部

Claims (8)

  1. 　サブピクチャをそれぞれ復号するサブピクチャ復号部と、
    　復号された上記サブピクチャを、互いに重複することが許容されるようにピクチャ内に合成するピクチャ合成部とを備えている
    ことを特徴とする動画像復号装置。
  2. 　上記ピクチャ合成部は、
    　シーケンスパラメータセットの下位であり、ピクチャパラメータセットの上位であるサブピクチャシーケンスパラメータセット内に含まれる、上記サブピクチャの位置を示すシンタックスを参照して上記サブピクチャを合成する
    ことを特徴とする請求項１に記載の動画像復号装置。
  3. 　上記ピクチャ合成部は、
    　上記サブピクチャシーケンスパラメータセット内に含まれる、上記サブピクチャのサイズを示すシンタックスを更に参照して上記サブピクチャを合成する
    ことを特徴とする請求項２に記載の動画像復号装置。
  4. 　上記ピクチャ合成部は、
    　上記サブピクチャシーケンスパラメータセット内に含まれる、上記サブピクチャのオフセットを示すシンタックスを更に参照して上記サブピクチャを合成する
    ことを特徴とする請求項２又は３に記載の動画像復号装置。
  5. 　上記ピクチャ合成部は、
    　ピクチャパラメータセット内に含まれる、上記サブピクチャの位置を示すシンタックスを参照して上記サブピクチャを合成する
    ことを特徴とする請求項１に記載の動画像復号装置。
  6. 　上記ピクチャ合成部は、
    　上記ピクチャパラメータセット内に含まれる、上記サブピクチャのサイズを示すシンタックスを更に参照して上記サブピクチャを合成する
    ことを特徴とする請求項５に記載の動画像復号装置。
  7. 　上記ピクチャ合成部は、
    　上記ピクチャパラメータセット内に含まれる、上記サブピクチャのオフセットを示すシンタックスを更に参照して上記サブピクチャを合成する
    ことを特徴とする請求項５又は６に記載の動画像復号装置。
  8. 　ピクチャを、互いに重複することが許容されたサブピクチャに分割するピクチャ分割部と、
    　サブピクチャをそれぞれ符号化するサブピクチャ符号化部とを備えている
    ことを特徴とする動画像符号化装置。
PCT/JP2018/019956 2017-05-31 2018-05-24 動画像復号装置、及び動画像符号化装置 WO2018221368A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/615,424 US11297349B2 (en) 2017-05-31 2018-05-24 Video decoding device and video encoding device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-108758 2017-05-31
JP2017108758 2017-05-31

Publications (1)

Publication Number Publication Date
WO2018221368A1 true WO2018221368A1 (ja) 2018-12-06

Family

ID=64454712

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/019956 WO2018221368A1 (ja) 2017-05-31 2018-05-24 動画像復号装置、及び動画像符号化装置

Country Status (2)

Country Link
US (1) US11297349B2 (ja)
WO (1) WO2018221368A1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019221072A1 (ja) * 2018-05-15 2019-11-21 シャープ株式会社 画像符号化装置、符号化ストリーム抽出装置及び画像復号装置
WO2021047590A1 (en) * 2019-09-10 2021-03-18 Mediatek Inc. Signaling of subpicture structures
GB2587244A (en) * 2019-09-17 2021-03-24 Canon Kk Method and apparatus for encoding and decoding a video stream with subpictures
WO2021088919A1 (en) * 2019-11-05 2021-05-14 Mediatek Inc. Method and apparatus of signaling subpicture information in video coding
WO2021193428A1 (ja) * 2020-03-27 2021-09-30 ソニーグループ株式会社 情報処理装置及び情報処理方法
US20210337199A1 (en) * 2019-01-09 2021-10-28 Huawei Technologies Co., Ltd. Sub-picture Position Constraints In Video Coding
JP2022525124A (ja) * 2019-03-11 2022-05-11 華為技術有限公司 エンコーダ、デコーダ及び対応する方法
CN114650428A (zh) * 2019-07-05 2022-06-21 华为技术有限公司 使用标识符指示的视频译码码流提取
EP3979640A4 (en) * 2019-05-28 2023-05-31 Samsung Electronics Co., Ltd. VIDEO CODING METHOD AND APPARATUS AND VIDEO DECODING METHOD AND APPARATUS FOR PREVENTING SMALL SIZE INTRABLOCK

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113875246A (zh) * 2019-05-12 2021-12-31 北京字节跳动网络技术有限公司 用于参考图片重采样的信令
CN113940075A (zh) * 2019-06-03 2022-01-14 诺基亚技术有限公司 用于视频编码和解码的装置、方法和计算机程序
US11317093B2 (en) * 2019-09-24 2022-04-26 Tencent America LLC Method for reference picture resampling with offset in video bitstream
US11785214B2 (en) * 2019-11-14 2023-10-10 Mediatek Singapore Pte. Ltd. Specifying video picture information
WO2021107663A1 (ko) * 2019-11-27 2021-06-03 엘지전자 주식회사 영상 디코딩 방법 및 그 장치
US11778169B2 (en) * 2019-12-27 2023-10-03 Electronics And Telecommunications Research Institute Method, apparatus and storage medium for image encoding/decoding using reference picture
US11863789B2 (en) * 2020-03-31 2024-01-02 Tencent America LLC Method for signaling rectangular slice partitioning in coded video stream
EP4154524A4 (en) * 2020-06-08 2023-11-15 ByteDance Inc. SUBLAYER SIGNALING IN A VIDEO BIT STREAM
EP4254949A1 (en) * 2022-03-31 2023-10-04 Beijing Xiaomi Mobile Software Co., Ltd. Encoding/decoding video picture partitionned in ctu grids

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007035065A1 (en) * 2005-09-26 2007-03-29 Electronics And Telecommunications Research Institute Method and apparatus for defining and reconstructing rois in scalable video coding
WO2015083575A1 (ja) * 2013-12-06 2015-06-11 シャープ株式会社 画像復号装置、画像符号化装置、および、符号化データ変換装置
JP2015126508A (ja) * 2013-12-27 2015-07-06 シャープ株式会社 画像復号装置、画像符号化装置、符号化データ変換装置、領域再生装置
US20150215631A1 (en) * 2014-01-23 2015-07-30 Broadcom Corporation Parallel Coding with Overlapped Tiles

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130016769A1 (en) * 2011-07-17 2013-01-17 Qualcomm Incorporated Signaling picture size in video coding
US10244246B2 (en) * 2012-02-02 2019-03-26 Texas Instruments Incorporated Sub-pictures for pixel rate balancing on multi-core platforms
US10701390B2 (en) * 2017-03-14 2020-06-30 Qualcomm Incorporated Affine motion information derivation
US11363248B2 (en) * 2017-03-17 2022-06-14 Lg Electronics Inc. Method and device for transmitting region information of 360-degree video

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007035065A1 (en) * 2005-09-26 2007-03-29 Electronics And Telecommunications Research Institute Method and apparatus for defining and reconstructing rois in scalable video coding
WO2015083575A1 (ja) * 2013-12-06 2015-06-11 シャープ株式会社 画像復号装置、画像符号化装置、および、符号化データ変換装置
JP2015126508A (ja) * 2013-12-27 2015-07-06 シャープ株式会社 画像復号装置、画像符号化装置、符号化データ変換装置、領域再生装置
US20150215631A1 (en) * 2014-01-23 2015-07-30 Broadcom Corporation Parallel Coding with Overlapped Tiles

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
TRUONG CONG THANG ET AL.: "SVC CE8 report Spatial scalability of multiple ROIs", JOINT VIDEO TEAM (JVT) OF ISO/IEC MPEG & ITU-T VCEG (SO/IEC JTCL/SC29/WGLLAND ITU-T SG 16 Q.6, July 2005 (2005-07-01), Poznan, Poland, pages 1 - 20, XP002428647 *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019221072A1 (ja) * 2018-05-15 2019-11-21 シャープ株式会社 画像符号化装置、符号化ストリーム抽出装置及び画像復号装置
US11431972B2 (en) 2018-05-15 2022-08-30 Sharp Kabushiki Kaisha Image encoding device, encoded stream extraction device, and image decoding device
US20210337199A1 (en) * 2019-01-09 2021-10-28 Huawei Technologies Co., Ltd. Sub-picture Position Constraints In Video Coding
JP2022525124A (ja) * 2019-03-11 2022-05-11 華為技術有限公司 エンコーダ、デコーダ及び対応する方法
EP3979640A4 (en) * 2019-05-28 2023-05-31 Samsung Electronics Co., Ltd. VIDEO CODING METHOD AND APPARATUS AND VIDEO DECODING METHOD AND APPARATUS FOR PREVENTING SMALL SIZE INTRABLOCK
CN114650428A (zh) * 2019-07-05 2022-06-21 华为技术有限公司 使用标识符指示的视频译码码流提取
US11968400B2 (en) 2019-07-05 2024-04-23 Huawei Technologies Co., Ltd. Video coding bitstream extraction with identifier signaling
WO2021047590A1 (en) * 2019-09-10 2021-03-18 Mediatek Inc. Signaling of subpicture structures
WO2021052794A1 (en) * 2019-09-17 2021-03-25 Canon Kabushiki Kaisha Method and apparatus for encoding and decoding a video stream with subpictures
GB2587244A (en) * 2019-09-17 2021-03-24 Canon Kk Method and apparatus for encoding and decoding a video stream with subpictures
GB2587244B (en) * 2019-09-17 2023-09-27 Canon Kk Method and apparatus for encoding and decoding a video stream with subpictures
WO2021088919A1 (en) * 2019-11-05 2021-05-14 Mediatek Inc. Method and apparatus of signaling subpicture information in video coding
US11509938B2 (en) 2019-11-05 2022-11-22 Hfi Innovation Inc. Method and apparatus of signaling subpicture information in video coding
WO2021193428A1 (ja) * 2020-03-27 2021-09-30 ソニーグループ株式会社 情報処理装置及び情報処理方法

Also Published As

Publication number Publication date
US11297349B2 (en) 2022-04-05
US20200177922A1 (en) 2020-06-04

Similar Documents

Publication Publication Date Title
WO2018221368A1 (ja) 動画像復号装置、及び動画像符号化装置
WO2018199001A1 (ja) 画像復号装置及び画像符号化装置
WO2019221072A1 (ja) 画像符号化装置、符号化ストリーム抽出装置及び画像復号装置
WO2018116802A1 (ja) 画像復号装置、画像符号化装置、及び画像予測装置
WO2018037853A1 (ja) 画像復号装置及び画像符号化装置
WO2018116925A1 (ja) イントラ予測画像生成装置、画像復号装置、および画像符号化装置
WO2018110203A1 (ja) 動画像復号装置、および動画像符号化装置
US20230308680A1 (en) Motion vector generation device, a prediction image generation device, a video decoding device and a video coding device
WO2018037896A1 (ja) 画像復号装置、画像符号化装置、画像復号方法、および画像符号化方法
JP2021010046A (ja) 画像符号化装置及び画像復号装置
JPWO2019031410A1 (ja) 画像フィルタ装置、画像復号装置、および画像符号化装置
WO2018230493A1 (ja) 動画像復号装置、動画像符号化装置、予測画像生成装置及び動きベクトル導出装置
WO2019182159A1 (ja) 画像フィルタ装置、画像復号装置、及び画像符号化装置
WO2018110462A1 (ja) 画像復号装置及び画像符号化装置
WO2020116456A1 (ja) 動画像復号装置
WO2018216688A1 (ja) 動画像符号化装置及び動画像復号装置、フィルタ装置
JP7241153B2 (ja) 画像復号装置
WO2020045248A1 (ja) 動画像復号装置および動画像符号化装置
WO2018159526A1 (ja) 動画像符号化装置及び動画像復号装置
WO2019230904A1 (ja) 画像復号装置、および画像符号化装置
WO2019159820A1 (ja) 動画像符号化装置及び動画像復号装置
WO2021015195A1 (ja) 画像復号装置、画像符号化装置、および画像復号方法
WO2018061550A1 (ja) 画像復号装置及び画像符号化装置
JP2019201256A (ja) 画像フィルタ装置
JP2020036101A (ja) 画像復号装置および画像符号化装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18809722

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18809722

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP