WO2017105141A1 - 영상을 부호화/복호화 하는 방법 및 그 장치 - Google Patents
영상을 부호화/복호화 하는 방법 및 그 장치 Download PDFInfo
- Publication number
- WO2017105141A1 WO2017105141A1 PCT/KR2016/014826 KR2016014826W WO2017105141A1 WO 2017105141 A1 WO2017105141 A1 WO 2017105141A1 KR 2016014826 W KR2016014826 W KR 2016014826W WO 2017105141 A1 WO2017105141 A1 WO 2017105141A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- prediction mode
- block
- intra prediction
- coding unit
- current
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
Definitions
- the method and apparatus may encode or decode an image by using various data units included in the image.
- the image data is encoded by a codec according to a predetermined data compression standard, for example, the Moving Picture Expert Group (MPEG) standard, and then stored in a recording medium in the form of a bitstream or transmitted through a communication channel.
- MPEG Moving Picture Expert Group
- the encoded video content may be reproduced by decoding.
- methods for effectively compressing such high resolution or high definition image contents have been implemented.
- an efficient image compression method is implemented through a process of arbitrarily processing an image to be encoded.
- various types of data units for dividing an image are used.
- an intra prediction mode may be determined and used based on each prediction block in an intra-side process based on a prediction block used in encoding or decoding of an image, encoding or decoding efficiency may be deteriorated.
- a method of decoding an image comprising: determining at least one first block for dividing a current frame, which is one of at least one frame included in the image, the current being one of the at least one first block
- Determining a second prediction mode indicating an intra prediction method and performing intra prediction based on the first prediction mode and the second prediction mode There may be provided an image decoding method comprising the step of decoding an image.
- a current frame which is one of a bitstream obtainer for obtaining first and second intra prediction mode information from a bitstream, and at least one frame included in an image, is obtained.
- Determine at least one first block to divide determine whether intra prediction is to be performed on a current first block that is one of the at least one first block, and if intra prediction is currently performed on the first block, a first intra
- a first prediction mode indicating an intra prediction method to be performed in the current first block is determined
- a plurality of second blocks included in the current first block are determined
- a first prediction mode and a plurality of first prediction modes are determined.
- An image decoding apparatus including a decoder configured to determine a side mode and perform intra prediction based on a first prediction mode and a second prediction mode to decode an image may be provided.
- determining at least one first block for dividing a current frame, which is one of at least one frame included in the image, a current first being one of at least one first block Determining whether intra prediction is to be performed in one block, if intra prediction is currently performed in a first block, determining a first prediction mode indicating an intra prediction method to be performed in the current first block, presently the first block Determining a plurality of second blocks included in a; determining a second prediction mode indicating an intra prediction method to be performed in the plurality of second blocks based on the first prediction mode, the first prediction mode and the second prediction Encoding an image by performing intra prediction based on a mode; and a first intra prediction mode indicating the encoded image data and a current first prediction mode.
- An image encoding method may include providing a bitstream including information and second intra prediction mode information indicating a second prediction mode.
- intra prediction modes performed in a plurality of sub blocks included in an arbitrary block may be individually determined using the intra prediction mode determined in an arbitrary block.
- FIG. 1A illustrates a block diagram of an image decoding apparatus capable of determining a prediction mode for a plurality of second blocks included in a first block based on a prediction mode of a current first block.
- FIG. 1B is a block diagram of an image encoding apparatus capable of determining a prediction mode for a plurality of second blocks currently included in a first block based on a prediction mode of a current first block.
- 2A is a flowchart of a method of determining, by an image decoding apparatus, a prediction mode for a plurality of second blocks based on a prediction mode of a current first block, according to an embodiment.
- 2B is a flowchart of a method of determining, by an image encoding apparatus, a prediction mode for a plurality of second blocks based on a prediction mode of a current first block, according to an embodiment.
- 3A illustrates a process of determining intra prediction modes of a plurality of second blocks based on intra prediction modes of a first block, according to an embodiment.
- FIG. 3B illustrates a process of determining a prediction mode based on a block of a non-square shape for dividing an image, according to an exemplary embodiment.
- 3C illustrates a process of determining an intra prediction mode in a second block included in a first block according to an embodiment.
- 4A is a flowchart illustrating a process of determining based on a first prediction mode of a first block and a second prediction mode of a previous second block to determine a second prediction mode of a current second block according to an embodiment. .
- 4B is a flowchart illustrating a process of determining based on a first prediction mode of a first block and a second prediction mode of a previous second block to determine a second prediction mode of a current second block, according to an embodiment. .
- 4C illustrates a process of determining a prediction direction that may be used in the intra prediction process of the current second block based on the prediction direction according to the first prediction mode, according to an embodiment.
- 4D illustrates a process of determining a prediction direction that may be used in the intra prediction process of the current second block by using the prediction direction according to the first prediction mode and the prediction direction of the previous second block.
- 4E illustrates a process of determining a reference prediction direction that can be used in each of the second blocks using the prediction direction of the first block, according to an embodiment.
- 5A is a flowchart illustrating a process of determining a second prediction mode of second blocks based on whether directional intra prediction is currently performed in a first block according to an embodiment.
- 5B is a flowchart illustrating a process of determining a second prediction mode of second blocks based on whether directional intra prediction is currently performed in a first block according to an embodiment.
- FIG. 6 illustrates a process of determining a second prediction mode based on rows or columns of second blocks divided in a first block, according to an embodiment.
- FIG. 7 illustrates a process of using a neighboring prediction mode to determine a prediction mode of a current first block or a current second block according to an embodiment.
- FIG. 8 illustrates various prediction directions and indices available in an intra prediction mode, according to an embodiment.
- 9A is a flowchart of a process of performing prediction by examining whether to perform a process of determining a second prediction mode of a second block according to an embodiment.
- 9B is a flowchart of performing prediction by examining whether to perform a process of determining a second prediction mode of a second block according to an embodiment.
- FIG. 10 illustrates a process of determining at least one coding unit by dividing a current coding unit according to an embodiment.
- FIG. 11 is a diagram illustrating a process of dividing a coding unit having a non-square shape and determining at least one coding unit according to an embodiment.
- FIG. 12 illustrates a process of splitting a coding unit based on at least one of block shape information and split shape information, according to an embodiment.
- FIG. 13 illustrates a method of determining a predetermined coding unit among odd number of coding units according to an embodiment.
- FIG. 14 illustrates an order in which a plurality of coding units are processed when a current coding unit is divided and a plurality of coding units are determined according to an embodiment.
- FIG. 15 illustrates a process of determining that a current coding unit is divided into odd coding units when the coding units cannot be processed in a predetermined order, according to an embodiment.
- 16 is a diagram illustrating a process of determining at least one coding unit by dividing a first coding unit according to an embodiment.
- FIG. 17 illustrates that a form in which a second coding unit may be split is limited when the second coding unit having a non-square shape determined by splitting the first coding unit satisfies a predetermined condition according to an embodiment. .
- FIG. 18 illustrates a process of splitting a coding unit having a square shape when split information cannot be divided into four square coding units according to an embodiment.
- FIG. 19 illustrates that a processing order between a plurality of coding units may vary according to a splitting process of coding units, according to an embodiment.
- 20 is a diagram illustrating a process of determining a depth of a coding unit as a shape and a size of a coding unit change when a coding unit is recursively divided and a plurality of coding units are determined according to an embodiment.
- FIG. 21 illustrates a depth index and a part index (PID) for classifying coding units, which may be determined according to shapes and sizes of coding units, according to an embodiment.
- PID part index
- FIG. 22 illustrates that a plurality of coding units are determined according to a plurality of predetermined data units included in a picture according to an embodiment.
- FIG. 23 illustrates a processing block serving as a reference for determining a determination order of reference coding units included in a picture, according to an embodiment.
- a method of decoding an image comprising: determining at least one first block for dividing a current frame, which is one of at least one frame included in the image; When intra prediction is performed in a current first block which is one of at least one first block, a first prediction indicating an intra prediction method to be performed in the current first block based on the first intra prediction mode information obtained from the bitstream. Determining a mode; Determining a plurality of second blocks currently included in the first block; Determining a second prediction mode indicating an intra prediction method to be performed in the plurality of second blocks based on at least one of the first prediction mode and second intra prediction mode information obtained from the bitstream for each of the plurality of second blocks. ; And decoding the image by performing intra prediction based on the first prediction mode and the second prediction mode.
- determining the second prediction mode may include obtaining second intra prediction mode information from a bitstream associated with a previous second block, which is one of a plurality of second blocks; And determining a second prediction mode for an adjacent current second block based on at least one of second intra prediction mode information and first intra prediction mode information related to the previous second block.
- the determining of the second prediction mode for the current second block may be determined according to the intra prediction direction determined according to the first intra prediction mode information and the second intra prediction mode information related to the previous second block. Determining a reference intra prediction direction currently used in the second block based on the intra prediction direction; And a prediction mode using one of a plurality of intra prediction directions including a reference intra prediction direction, based on the second intra prediction mode information obtained in relation to the current second block, as the second prediction mode for the current second block. Determining may include.
- the determining of the second prediction mode for the current second block may include determining a prediction mode using a reference intra prediction direction when the current second block is the last second block of the plurality of second blocks. Determining as the second prediction mode for the block.
- the difference in index values between intra prediction modes that may be determined based on the second intra prediction mode information in the current second block may be uniform.
- the difference in index values between intra prediction modes that may be determined based on the second intra prediction mode information in the current second block may be nonuniform.
- the determining of the first prediction mode may be based on first intra prediction mode information obtained from a bitstream associated with a neighboring first block adjacent to the first block, and thus, intra prediction mode of the current first block. Determining may include.
- the determining of the first prediction mode may include determining the first prediction mode based on first intra prediction mode information obtained from a bitstream associated with a current first block.
- determining the second prediction mode may include obtaining a flag from the bitstream indicating whether intra prediction is to be performed based on the first prediction mode and the second prediction mode; And if the flag indicates whether to perform intra prediction based on the first prediction mode and the second prediction mode, determining the second prediction mode by obtaining second intra prediction mode information from the bitstream for each of the plurality of second blocks. It may include.
- the determining of the second prediction mode may include determining whether the second prediction mode corresponds to the same row or the same column among the plurality of second blocks based on the intra prediction direction associated with the first prediction mode when the first prediction mode indicates the directional intra prediction mode. And determining equally the second prediction mode of the located second blocks.
- determining the plurality of second blocks may include determining the plurality of second blocks of a non-square shape included in the first block.
- the first block may be a coding unit and the second block may be a transformation unit.
- an apparatus for decoding an image comprising: a bitstream obtaining unit configured to obtain first intra prediction mode information and second intra prediction mode information from a bitstream; And determining at least one first block for dividing a current frame, which is one of at least one frame included in the image, and determining whether intra prediction is to be performed in the current first block, which is one of the at least one first block, When intra prediction is performed in the current first block, a first prediction mode indicating an intra prediction method to be performed in the current first block is determined based on the first intra prediction mode information, and a plurality of pieces included in the current first block are determined.
- the image decoding apparatus may include a decoder configured to decode an image by performing intra prediction based on a first prediction mode and a second prediction mode. All.
- a method of encoding an image comprising: determining at least one first block for dividing a current frame, which is one of at least one frame included in the image; Determining whether intra prediction is to be performed on a current first block that is one of the at least one first block; When intra prediction is currently performed in the first block, determining a first prediction mode indicating an intra prediction method to be performed in the current first block; Determining a plurality of second blocks currently included in the first block; Determining a second prediction mode indicating an intra prediction method to be performed in the plurality of second blocks based on the first prediction mode; Encoding the image by performing intra prediction based on the first prediction mode and the second prediction mode; And generating a bitstream including encoded image data, first intra prediction mode information indicating a current first prediction mode, and second intra prediction mode information indicating a second prediction mode. Can be.
- a computer-readable recording medium may be provided that includes a computer program for performing an image decoding method.
- part refers to a hardware component, such as software, FPGA or ASIC, and “part” plays certain roles. However, “part” is not meant to be limited to software or hardware.
- the “unit” may be configured to be in an addressable storage medium and may be configured to play one or more processors.
- a “part” refers to components such as software components, object-oriented software components, class components, and task components, processes, functions, properties, procedures, Subroutines, segments of program code, drivers, firmware, microcode, circuits, data, databases, data structures, tables, arrays and variables.
- the functionality provided within the components and “parts” may be combined into a smaller number of components and “parts” or further separated into additional components and “parts”.
- the "image” may be a static image such as a still image of a video or may represent a dynamic image such as a video, that is, the video itself.
- sample means data to be processed as data allocated to a sampling position of an image.
- pixel values and transform coefficients on a transform region may be samples in an image of a spatial domain.
- a unit including the at least one sample may be defined as a block.
- FIG. 1A illustrates a block diagram of an image decoding apparatus 100 that may determine a prediction mode for a plurality of second blocks currently included in a first block based on a prediction mode of a current first block.
- the image decoding apparatus 100 may obtain a first intra prediction mode information indicating an intra prediction mode of a first block and a second intra prediction mode information indicating an intra prediction mode of a second block from a bitstream.
- the first block and the second block included in the current frame which is one of the at least one frame constituting the stream obtaining unit 110 and the image, are determined, and the first prediction mode and the second prediction method are intra prediction methods for the first block.
- the decoder 120 may determine a second prediction mode, which is an intra prediction method for the block, and decode the image.
- the second intra prediction mode information may be information determined based on the first prediction mode.
- the intra prediction of the second block may be performed based on the intra prediction mode used in the intra prediction process of the first block according to an embodiment, and the encoding side indicates the intra prediction mode performed in the first block.
- a bitstream including first intra prediction mode information and second intra prediction mode information indicating an intra prediction mode performed in the second block may be generated.
- the image decoding apparatus 100 may obtain first intra prediction mode information and second intra prediction mode information from the bitstream received from the encoding side. An image decoding method that may be performed by the image decoding apparatus 100 will be described below through various embodiments.
- 2A is a flowchart of a method of determining, by the image decoding apparatus 100, a prediction mode for a plurality of second blocks based on a prediction mode of a current first block, according to an exemplary embodiment.
- the decoder 120 may determine at least one first block for dividing a current frame, which is one of at least one frame included in an image, in operation S200. Various types of blocks may be used in the decoding process of the current frame, and the decoder 120 may perform an image decoding process based on various data blocks. According to an embodiment, the decoder 120 may determine whether intra prediction is currently performed in the first block by obtaining information from the bitstream indicating whether intra prediction or inter prediction is currently performed in the first block. . According to an embodiment, the decoder 120 may determine whether intra prediction is to be performed on the current first block based on information indicating the type of a predetermined data unit (eg, a slice) including the current first block. have. A process of determining whether the intra prediction mode is currently performed in the first block may correspond to a determination process performed by various conventional decoding methods, and thus detailed description thereof will be omitted.
- a predetermined data unit eg, a slice
- the decoder 120 may present the current information based on the first intra prediction mode information obtained from the bitstream.
- a first prediction mode indicating an intra prediction method to be performed in the first block may be determined.
- the decoder 120 may determine which intra prediction is performed for each first block.
- the first block may include various types of data blocks. For example, it may be determined whether intra prediction or inter prediction is performed for each first block. As another example, it may be determined what type of intra prediction is performed in the intra prediction mode for each first block.
- the image decoding apparatus 100 may determine the prediction mode of the current first block by using the first intra prediction mode information obtained from the bitstream, and the first intra prediction mode information divides the current frame. Can be obtained from the bitstream for each first block.
- the bitstream obtainer 110 may obtain first intra prediction mode information from the bitstream for each first block, and the decoder 120 may present the first intra prediction mode information using the obtained first intra prediction mode information. It may be determined what type of intra prediction is to be performed in the first block.
- the first intra prediction mode information used by the decoder 120 to determine a first prediction mode that is an intra prediction mode for the first block is information obtained from a bitstream for the first block. Can be.
- the first intra prediction mode information used by the decoder 120 to determine the first prediction mode that is the intra prediction mode for the current first block is another first block adjacent to the first block. It may be information obtained from a bitstream for. That is, the image decoding apparatus 100 may obtain and use the first intra prediction mode information related to the current first block from the bitstream to determine the intra prediction mode of the current first block, or the current obtained from the bitstream. Information related to neighboring first blocks adjacent to the first block may be used. According to an embodiment, the decoder 120 determines a first intra prediction mode obtained from a bitstream of at least one first block adjacent to the current first block to determine a first prediction mode of the current first block. An index for identifying information or an intra mode performed in at least one adjacent first block may be used.
- the image decoding apparatus 100 may not acquire first intra prediction mode information for each first block, but may use the first intra prediction mode of other first blocks that have already been acquired to obtain the current first block. As the prediction mode can be determined, the bitstream can be efficiently managed.
- the first prediction mode of the current first block determines whether to use the first intra prediction mode information obtained from the bitstream for the current first block, information about another adjacent first block or A predetermined flag indicating whether to use an index can be obtained from the bitstream and used.
- the image decoding apparatus 100 may determine a plurality of second blocks currently included in the first block in operation S204.
- the relationship between the first block dividing the current frame and a data block called at least one second block included in the first block may include an inclusion relationship between various data blocks.
- the second block included in the first block when the first block is a maximum coding unit, may be a coding unit divided from the maximum coding unit. According to an embodiment, when the first block is a coding unit, the second block included in the first block may be a prediction unit or a transformation unit determined based on the coding unit.
- the first block and the second block should not be construed as being limited to the above-described embodiment, It can be interpreted that various types of data blocks having similar inclusion relations are included.
- the image decoding apparatus 100 may indicate an intra prediction method to be performed in the plurality of second blocks based on the second intra prediction mode information obtained from the bitstream for each of the plurality of second blocks in step S206. 2 prediction mode can be determined.
- 3A illustrates a process of determining intra prediction modes of a plurality of second blocks based on intra prediction modes of a first block, according to an embodiment.
- the image decoding apparatus 100 when the intra prediction is currently performed on the first block, the image decoding apparatus 100 indicates an intra prediction method to be performed on the current first block based on the first intra prediction mode information obtained from the bitstream.
- the first prediction mode may be determined.
- the decoder 120 may determine whether intra prediction is to be performed in the current first block 300, which is one of the first blocks for dividing the current frame, and the first intra obtained from the bitstream. Based on the prediction mode information, it may be determined how intra prediction is performed.
- the intra prediction mode that may be performed in the first block may be a directional intra prediction method or an directional intra prediction.
- An index for identifying intra prediction modes that may be performed may be used, and the image decoding apparatus 100 may obtain first intra prediction mode information from a bitstream to perform any intra prediction mode in the first block 300. Can be determined.
- the decoder 120 determines to perform directional intra prediction that refers to a sample adjacent to the upper left direction 302 of the first block 300 based on the first intra prediction mode information. Can be.
- the directional intra prediction referring to the sample adjacent to the upper left direction 302 illustrated in FIG. 3A is merely a mere embodiment, and the directional intra prediction that may be performed in the first block 300 is currently performed in the first block. It may be intra prediction referring to samples adjacent to the 300 in various directions.
- the decoder 120 may determine the plurality of second blocks 310, 312, 314, and 316 currently included in the first block 300. Further, the bitstream obtainer 110 may obtain second intra prediction mode information from the bitstream for each of the plurality of second blocks 310, 312, 314, and 316. The decoder 120 may individually determine an intra prediction mode that may be performed in the second blocks by using the second intra prediction mode information obtained for each of the second blocks 310, 312, 314, and 316.
- the decoder 120 may determine a plurality of types based on at least one of the first prediction mode and the second intra prediction mode information obtained for each of the plurality of second blocks 310, 312, 314, and 316. Intra prediction may be performed.
- the second intra prediction mode information obtained in connection with the second blocks 310, 312, 314, and 316 is obtained from a bitstream generated in connection with the intra prediction method of the first block 300.
- an index indicating an intra prediction mode may be used, and the decoder 120 may determine whether to perform directional intra prediction or non-directional intra prediction based on the index. For example, as an intra prediction method of the current first block 300, an index (or first intra) indicating a directional intra prediction method referring to samples adjacent to the upper left direction 302 of the current first block 300. Prediction mode information) and a second of the second blocks 310, 312, 314, and 316 based on the second intra prediction mode information obtained with respect to the plurality of second blocks 310, 312, 314, and 316.
- the prediction mode can be determined.
- the decoder 120 may perform second intra prediction mode information.
- an index indicating an intra prediction mode to be performed in the second blocks 310, 312, 314, and 316 one of indices such as KN-1, KN, K + N, and K + N + 1 may be determined based on the indexes. . That is, the decoder 120 may compare the second blocks 310, 312, 314, and 316 with the indexes of the intra prediction mode of the current first block 300 determined by the first intra prediction mode information.
- the index indicating the intra prediction mode to be performed for each second block may be determined based on the second intra prediction mode information respectively obtained from the associated bitstream, and the decoder 120 may determine the second prediction mode according to the index.
- Table 1 shows, as an embodiment, second blocks 310, 312, 314, which are currently included in the first block 300 based on at least one of the first intra prediction mode information and the second intra prediction mode information.
- the number of bits of the second intra prediction mode information acquired by the bitstream obtainer 110 of the image decoding apparatus 100 may be determined by the second blocks 310, 312, 314, and 316.
- bit length may be variable.
- Table 1 below is only an embodiment showing an index for the intra mode of the second block that may be determined according to the second intra prediction mode information based on the index for the first block. It should not be construed as limited to 2 intra prediction mode information.
- K, A and B may include a predetermined integer.
- the direction or angle of the reference sample used in the directional intra prediction mode may be determined according to an index indicating the intra prediction mode.
- the decoder 120 may determine an index indicating an intra prediction mode to be performed for each second block based on at least one of the first intra prediction mode information and the second intra prediction mode information. Accordingly, the image decoding apparatus 100 may adjust the intra prediction directions of the plurality of second blocks included in the first block based on the intra prediction direction currently associated with the intra prediction mode of the first block. Referring to FIG. 3A, the decoder 120 currently sets the intra prediction directions 311, 313, 315, and 317 of the second blocks 310, 312, 314, and 316 included in the first block 300.
- Intra prediction may be performed according to a prediction direction related to (K).
- K an index having a size smaller than the index K for the intra prediction direction 302 of the first block 300 is present (eg, For example, intra prediction may be performed according to a prediction direction associated with KA).
- an index having a size larger than the index K for the intra prediction direction 302 of the first block 300 is present (for example, For example, intra prediction may be performed according to a prediction direction related to K + A).
- an index having a size larger than the index K for the intra prediction direction 302 of the first block 300 is present (for example, For example, intra prediction may be performed according to a prediction direction related to K + A + B).
- Intra prediction direction may be used.
- the image decoding apparatus 100 is based on the second blocks 310, 312, 314, and 316 which are sub-divided rather than performing intra prediction on the data block called the first block 300. By performing various intra predictions, an accurate image reconstruction process may be performed.
- the apparatus 100 for decoding an image may further include a method for each of the second blocks using an index for the second prediction mode indicated by the second intra prediction mode information obtained from the bitstream for each of the plurality of second blocks. 2
- the prediction mode may be determined.
- FIG. 3B illustrates a process of determining a prediction mode based on a block of a non-square shape for dividing an image, according to an exemplary embodiment.
- the decoder 120 of the image decoding apparatus 100 may decode an image using not only a square data unit but also a non-square data unit.
- the decoder 120 may be configured based on the second intra prediction mode information obtained for each of the plurality of second blocks 330, 332, 334, and 336 currently included in the first block 320.
- kinds of intra prediction may be performed, and the second intra prediction mode information obtained from the bitstream may be information related to the first intra prediction mode information.
- the second intra prediction mode information obtained in connection with the second blocks 330, 332, 334, and 336 is obtained from a bitstream generated in connection with the intra prediction method of the first block 320.
- an index indicating an intra prediction mode may be used, and the decoder 120 may determine whether to perform directional intra prediction or non-directional intra prediction based on the index. For example, as an intra prediction method of the current first block 320, an index (or first intra prediction) indicating a directional intra prediction method referring to samples adjacent to the upper direction 322 of the current first block 320.
- the shape of the plurality of second blocks 330, 332, 334, and 336 currently included in the first block 320 may be a non-square shape.
- a non-square first block which is not the same as the current first block 320 shown in FIG. 3B, may be included in the current frame.
- the shape of the plurality of second blocks included in the first block of the non-square shape may also be a data block of the square shape or the non-square shape. That is, in the case of the form of the first block and the second block that can be used in various embodiments, the first block and the second block satisfy the inclusion relationship between the first block and the second block, such as square or non-square shape. It can be in various forms.
- the second intra prediction mode information obtained in connection with the second blocks 330, 332, 334, and 336 is obtained from a bitstream generated in connection with the intra prediction method of the first block 320.
- an index indicating an intra prediction mode may be used, and the decoder 120 may determine whether to perform directional intra prediction or non-directional intra prediction based on the index. For example, as an intra prediction method of the current first block 320, an index (or first intra prediction) indicating a directional intra prediction method referring to samples adjacent to the upper direction 322 of the current first block 320.
- the second blocks 330, 332, 334 based on the second intra prediction mode information obtained with respect to the plurality of second blocks 330, 332, 334, 336 having a non-square shape.
- the second prediction mode of 336 may be determined. Since the method of determining the second prediction mode of the non-square second blocks 330, 332, 334, and 336 may be similar to the method described with reference to FIG. 3A, a detailed description thereof will be omitted.
- 3C illustrates a process of determining an intra prediction mode in a second block included in a first block according to an embodiment.
- the decoder 120 may use the intra prediction mode for each of the second blocks based on the second intra prediction mode information obtained from the bitstream and the method of the intra prediction mode determined in relation to the first block 350. Can be determined.
- the intra prediction mode determined in the first block 350 is a directional intra prediction mode, and the intra prediction mode referring to a reference sample adjacent to at least one of a left boundary and an upper boundary of the first block 350 may be included. Can be used.
- the intra prediction mode of the second block 360 may be determined based on the intra prediction mode. In this case, the intra prediction mode of the first block may be the reference.
- the intra prediction mode of the first block 350 used to determine the intra prediction mode of the second block 360 will be referred to as a reference intra prediction mode.
- the decoder 120 may further include the decoder 120 according to an embodiment.
- the number and directions of the directional intra prediction modes that may be used in the second block 360 may be determined based on the reference intra prediction mode. You can decide. Specifically, as shown in Table 1, when the second intra prediction mode information of the second block 360 is 00, intra prediction may be performed by referring to reference samples located in the same direction as the reference intra prediction mode. .
- the index related to the intra prediction mode that the second intra prediction mode information used by the decoder 120 means may vary according to the direction of the reference intra prediction mode.
- the decoder 120 differently determines the second prediction mode indicated by the second intra prediction mode information based on a result of comparing the index K determined according to the reference intra prediction mode with a predetermined threshold L.
- Table 2 below is a table including a second prediction mode that may be determined according to a comparison result of K and L according to an embodiment.
- the decoder 120 may switch to the second prediction mode according to which direction the reference sample is used in the first prediction mode.
- Various indexes can be determined. Accordingly, in the prediction process of the image decoding apparatus 100, a second variety of prediction modes may be used in any one direction based on the index K representing the first prediction mode.
- the decoder 120 when the index K of the first prediction mode of the first block 350 is greater than or equal to a predetermined threshold L, the decoder 120 according to an embodiment may include the decoder 120. Is the index indicated by the second intra prediction mode information, and is based on the index K of the first prediction mode, the prediction direction 361 associated with the index KA smaller than K, and the index larger than K (K + A, K + One of the prediction directions 363 and 364 related to A + B) and an intra prediction mode related to the same prediction direction 362 as the prediction direction 351 of the first prediction mode. Can be determined.
- the decoder 120 when the index K of the first prediction mode of the first block 370 is less than the predetermined threshold L, the decoder 120 according to an embodiment, the decoder 120 ) Is an index indicated by the second intra prediction mode information, and the prediction directions 381 and 382 related to the indexes KA and KAB smaller than K and the index K larger than K are based on the index K of the first prediction mode.
- One of the prediction direction 384 associated with + A) and the intra prediction mode associated with the same prediction direction 383 as the prediction direction 371 of the first prediction mode may be determined as the second prediction mode of the second block 380. have.
- the types of prediction directions of the second prediction mode may be variously determined according to the prediction directions associated with the first prediction mode
- the types of the first prediction mode and the second prediction mode may be the same. It should not be construed as limited to the embodiments, and various prediction directions and numbers may be used as prediction modes.
- the decoder 120 may determine other index values that may be determined as the second prediction mode of the second block based on the index K indicating the first intra prediction mode in Table 1 or Table 2. The difference may not be uniform (A> B or A ⁇ B).
- the decoder 120 may determine the second prediction mode using K-nB (n> 1) as values of indices smaller than the index K of the first prediction mode, and the index of the first prediction mode ( The second prediction mode may be determined using K + nA (n> 1) as the value of the indices larger than K).
- the image decoding apparatus 100 may determine whether the index for the second prediction mode is different for each second block, and the difference between the indices smaller than the index K of the first prediction mode is uniform or nonuniform.
- the difference between the indices larger than the index K of the first prediction mode may be determined to be uniform or nonuniform.
- 4A is a flowchart illustrating a process of determining based on a first prediction mode of a first block and a second prediction mode of a previous second block to determine a second prediction mode of a current second block according to an embodiment. .
- the operation performed by the image decoding apparatus 100 in steps S400 to S404 may be similar to the operation performed in steps S200 to S204 of FIG. 2A, and thus a detailed description thereof will be omitted.
- the decoder 120 based on the prediction direction determined according to the first intra prediction mode information and the prediction direction determined based on the second intra prediction mode information related to the previous second block, The reference prediction direction used in the second block can be determined.
- the decoder 120 may perform decoding by determining an order in which a plurality of second blocks included in the first block are processed.
- the order in which the second blocks are processed may be a predetermined order, and the order may be various orders according to the types of the plurality of second blocks currently included in the first block. For example, when the plurality of second blocks is currently divided into the same number of rows and columns, the first block may be processed according to a Z-scan order.
- the plurality of second blocks When the plurality of second blocks is in the form of dividing the first block in the form or column direction, the plurality of second blocks may be processed in a direction perpendicular to the direction in which the first block is currently divided.
- the decoder 120 may determine the second prediction mode of the current second block by using the prediction direction associated with the previously processed second block based on the processing order of the second block determined according to an embodiment.
- the image decoding apparatus 100 may use a prediction mode that uses one of a plurality of prediction directions including a reference prediction direction based on second intra prediction mode information obtained with respect to a current second block. Can be determined as the second prediction mode for the current second block.
- the image decoding apparatus 100 may decode an image by performing intra prediction based on a first prediction mode and a second prediction mode, according to an embodiment.
- 4C illustrates a process of determining a prediction direction that may be used in the intra prediction process of the current second block based on the prediction direction according to the first prediction mode, according to an embodiment.
- the bitstream obtainer 110 of the image decoding apparatus 100 currently uses the first intra prediction mode information obtained from the bitstream associated with the first block 400 to display the current first block 400.
- the prediction direction 402 of the intra prediction mode to be performed may be determined.
- the decoder 120 may determine a plurality of second blocks currently included in the first block 400. Furthermore, the decoder 120 may determine the second prediction modes of the plurality of second blocks currently included in the first block 400, and the second prediction modes of the plurality of second blocks may be plural kinds. The decoder 120 may determine the second prediction mode of the second block according to the processing order of the plurality of second blocks.
- the bitstream generator 110 of the image decoding apparatus 100 is a bitstream associated with a second block 410 which is one of a plurality of second blocks currently included in the first block 400. From the second intra prediction mode information can be obtained.
- the decoder 120 may determine a second prediction mode in which one of the plurality of directions 412, 414, and 416 is a prediction direction, based on the second intra prediction mode information of the second block 410.
- the same prediction direction 414 as the prediction direction 402 of the first block 400 may be included as one of the prediction directions that can be used as the intra prediction mode of the second block 410 as the reference prediction direction.
- the decoder 120 may include one of a plurality of prediction directions including a reference prediction direction, which is a prediction direction 402 of the first block 400, based on the second intra prediction mode information of the second block 410. May be determined as the prediction direction of the second block to determine the second prediction mode.
- the decoder 120 is the current first block 400 that is a reference for determining a prediction direction of the plurality of second blocks 410, 420, 427, and 428 included in the first block 400. ) Can be used as the reference prediction direction.
- the method similar to the above-described method using an index corresponding to the prediction direction is performed. It may be a method, so detailed description thereof will be omitted.
- 4D illustrates a process of determining a prediction direction that may be used in the intra prediction process of the current second block by using the prediction direction according to the first prediction mode and the prediction direction of the previous second block.
- the bitstream obtainer 110 of the image decoding apparatus 100 currently uses the first intra prediction mode information obtained from the bitstream associated with the first block 430 to transmit the current first block 430.
- the prediction direction 432 of the intra prediction mode to be performed may be determined.
- the bitstream generator 110 of the image decoding apparatus 100 is a bitstream associated with a second block 440 which is one of a plurality of second blocks currently included in the first block 430. From the second intra prediction mode information can be obtained.
- the decoder 120 may determine a second prediction mode in which one of the plurality of directions 442, 444, and 446 is the prediction direction, based on the second intra prediction mode information of the second block 440.
- the same prediction direction 444 as the prediction direction 432 of the current first block 430 may be included as one of the prediction directions that can be used as the intra prediction mode of the second block 440 as the reference prediction direction.
- the decoder 120 may include one of a plurality of prediction directions including a reference prediction direction, which is a prediction direction 432 of the first block 430, based on the second intra prediction mode information of the second block 440. May be determined as the prediction direction of the second block to determine the second prediction mode. According to an embodiment, the decoder 120 may determine a second prediction mode referring to a reference sample located in a prediction direction 446 other than the reference prediction direction 444 based on the second intra prediction mode information. have.
- the decoder 120 may determine the prediction directions of the plurality of second blocks 440, 450, 455, and 457 included in the first block 430. Instead of using the prediction direction 432 uniformly as the reference prediction direction, the prediction direction of another previously processed second block may be used as the reference prediction direction.
- the decoder 120 may determine the prediction direction 446 of the previous second block 440, and then determine the prediction direction of the current second block 450 to be processed next.
- the prediction direction of 446 can be used.
- the decoder 120 may determine the prediction direction of the current second block 450 by referring to the index of the intra prediction mode using the prediction direction 446 of the previous second block 440. In this case, the prediction direction 446 of the previous second block 440 may be a reference prediction direction currently used in the second block 450.
- the decoder 120 may include a plurality of prediction directions 451, 452, and 453 including the same prediction direction as the prediction direction 446 of the previous second block 440 of the current second block 450. ) May determine the second prediction mode by determining one of) as the prediction direction to be used for intra prediction. That is, the decoder 120 may use different reference prediction directions to determine the second prediction mode of each of the previous second block 440 and the current second block 450.
- the decoder 120 By using different reference prediction directions between the previous second block 440 and the current second block 450, a combination of various prediction directions may be used in determining the second prediction mode. Referring to FIG. 4D, a combination of prediction directions 442, 444, and 446 available in the previous second block 440 and prediction directions 451, 452, and 453 currently available in the second block 450 may be used. ) Is different. According to an embodiment, the decoder 120 may use the plurality of prediction directions 451, 452, and 453 that are currently available in the second block 450 based on the second intra prediction mode information and the reference prediction direction 452. By selecting one of the second prediction modes.
- the decoder 120 may determine a combination of prediction directions that may be used in the second block 455 processed after the current second block 450. A process similar to the process of determining the combination of the prediction directions of may be determined based on the prediction direction 446 of the previous second block 440. Accordingly, the decoder 120 may determine the reference prediction direction 456 of the second block 455 processed after the current second block 450 based on the prediction direction 452 of the current second block 450. Can be determined based on the combination of prediction directions that can be used. Further, the prediction direction 454 of one of the plurality of prediction directions including the reference prediction direction 456 based on the second intra prediction mode information of the second block 455 currently processed after the second block 450. May determine a second prediction mode for performing intra prediction.
- 4E illustrates a process of determining a reference prediction direction that can be used in each of the second blocks using the prediction direction of the first block, according to an embodiment.
- the bitstream obtainer 110 of the image decoding apparatus 100 currently uses the first intra prediction mode information obtained from the bitstream associated with the first block 460 to present the first block 460.
- the prediction direction 462 of the intra prediction mode to be performed may be determined.
- the decoder 120 may determine the reference prediction directions of the plurality of second blocks included in the first block 460 using the prediction direction 462 of the current first block 460.
- the bitstream generator 110 of the image decoding apparatus 100 may select a bitstream associated with a second block 470a which is one of a plurality of second blocks included in the first block 460.
- Second intra prediction mode information may be obtained.
- the decoder 120 may determine a second prediction mode in which one of the plurality of directions 472, 474, and 476 is a prediction direction, based on the second intra prediction mode information of the second block 470a.
- the same prediction direction 474 as the prediction direction 462 of the first block 460 may be included as one of the prediction directions that can be used as the intra prediction mode of the second block 470a as the reference prediction direction.
- the decoder 120 may include one of a plurality of prediction directions including a reference prediction direction, which is a prediction direction 462 of the first block 460, based on the second intra prediction mode information of the second block 470a. May be determined as the prediction direction of the second block to determine the second prediction mode.
- the decoder 120 may determine that the reference prediction directions used for the plurality of second blocks are different from each other.
- a plurality of second blocks 470a, 470b, 470c, and 470d currently included in the first block 460 are respectively classified into A blocks, B blocks, C blocks, and the like. It is referred to as D block.
- the decoder 120 may determine the second prediction mode in the order of A block, B block, C block, and D block.
- the decoder 120 may perform a second prediction based on a reference prediction direction 474 which is one of prediction directions 472, 474, and 476 that may be used to perform intra prediction in the A block 470a.
- the prediction mode can be determined.
- the reference prediction direction of the A block 470a in which the prediction direction is determined first of the plurality of second blocks may be the same as the prediction direction 462 of the first block 460.
- the decoder 120 may select one of the prediction directions 472, 474, and 476 based on the second intra prediction mode information obtained in relation to the A block 470a.
- the second prediction mode for performing intra prediction may be determined.
- the decoder 120 may determine the second prediction mode using a plurality of prediction directions 482, 484, and 486 including a reference prediction direction in the B block 470b.
- the decoder 120 determines the current prediction direction 462 of the first block 460 and the reference prediction direction of the B block 470b according to the prediction direction 462 of the current first block 460. At least one of the prediction start point 463a and the prediction end point 463b, the size of the B block 470b, and the position in the current first block 460 of the B block 470b may be considered.
- the decoder 120 may determine the same point as the prediction start point 463a of the first block 460 as the prediction start point 471a of the A block 470a, and the A block 470a.
- the prediction end point 471b of the A block 470a may be determined based on the prediction direction and the prediction start point 471a.
- the prediction start point and the prediction end point may be defined as a point where the prediction starts and ends according to the prediction direction while the image decoding apparatus 100 performs directional intra prediction in a block.
- the decoder 120 may use the prediction end point 471b determined based on the prediction direction 476 of the A block 470a as the prediction start point in the B block 470b.
- the reference prediction direction 484 in the B block 470b may be determined based on the prediction start point of the block 470b and the prediction end point 463b of the first block 460.
- the decoder 120 determines the B block 470b based on the position in the current first block 460 of the prediction start point in the B block 470b and the prediction end point 463b of the first block 460.
- the reference prediction direction 484 of may be determined.
- the direction in which the prediction end point 463b of the first block 460 is connected from the prediction start point of the B block 470b in the current first block 460 is the reference prediction of the B block 470b.
- Direction can be determined.
- the image decoding apparatus 100 may determine the second prediction mode of the second block in consideration of the prediction direction of the current first block 460.
- the decoder 120 may select one of the prediction directions including the reference prediction direction 489 of the C block 470c, which may be determined by a method similar to the above method, and the prediction direction of the C block 470c. 488, and accordingly, the second prediction mode of the C block 470c may be determined.
- the decoder 120 may determine one of the prediction directions including the reference prediction direction 490 of the D block 470d, which may be determined by a method similar to the above method, as the prediction direction of the D block 470d. Accordingly, the second prediction mode of the D block 470d may be determined. Referring to FIG. 4E, the decoder 120 may determine the reference prediction direction 490 as the prediction direction of the D block 470d based on the obtained second intra prediction mode information.
- the image decoding apparatus 100 may determine a reference prediction direction of the second block by using the prediction end point of the first block and the prediction start point of each second block, and thus, the plurality of second blocks.
- the process of acquiring second intra prediction mode information related to the second block 470d that is processed last among the fields 470a, 470b, 470c, and 470d from the bitstream may be omitted. Accordingly, instead of determining the prediction direction of the second block 470d based on the second intra prediction mode information, the image decoding apparatus 100 may perform intra prediction according to the reference prediction direction 490 of the second block 470d.
- the prediction mode performed may be determined as the second prediction mode. Accordingly, the image decoding apparatus 100 may effectively use the bandwidth of the bitstream.
- the shape of the first block, the second block, the prediction direction, and the like illustrated in FIGS. 4C, 4D, and 4E may be based on the prediction direction of the first block according to the flowchart of FIG. 4A. It is only an example for explaining that the determination can be made, and should not be construed as being limited to the illustrated form and direction.
- 5A is a flowchart illustrating a process of determining a second prediction mode of second blocks based on whether directional intra prediction is currently performed in a first block according to an embodiment.
- a feature of an operation performed by the image decoding apparatus 100 in steps S500 to S504 may be similar to that of an operation performed in steps S200 to S204 of FIG. 2A, and thus, a detailed description thereof will be omitted. do.
- the image decoding apparatus 100 may determine whether the first prediction mode determined in operation S502 is a directional intra prediction mode.
- the directional intra prediction mode may be an intra prediction mode in which a prediction operation using a reference sample adjacent to the first block is performed in a specific direction related to an index of the intra prediction mode.
- the non-directional intra prediction mode may be an intra prediction mode in which intra prediction is performed by using a reference sample adjacent to the first block, but prediction is not performed according to a specific direction, but overall.
- the non-directional intra prediction mode may include a DC mode, a planar mode, and the like, and the directional intra prediction mode may include an angular mode capable of using various prediction directions.
- the image decoding apparatus 100 may determine whether the prediction mode performed in the first block is the directional intra prediction mode based on the first intra prediction mode information acquired by the bitstream obtainer 110.
- the first intra prediction mode information may be information including an index for distinguishing an intra prediction mode.
- the decoder 120 may determine a plurality of second blocks based on the second intra prediction mode information on the plurality of second blocks in operation S508.
- a second prediction mode indicating the directional intra prediction mode to be performed may be determined. That is, when the first prediction mode for the first block including the plurality of second blocks is the directional intra prediction mode, the directional intra prediction mode is set as the second prediction mode by the second intra prediction mode information for the second block. Can be determined.
- the decoder 120 may determine a plurality of second blocks based on second intra prediction mode information on the plurality of second blocks in operation S510.
- a second prediction mode indicating a non-directional intra prediction mode to be performed may be determined. That is, when the first prediction mode for the first block including the plurality of second blocks is the non-directional intra prediction mode, the directional intra prediction mode is set to the second prediction mode by the second intra prediction mode information for the second block. Can be determined as Therefore, even if the second intra prediction mode information acquired by the image decoding apparatus 100 has the same value as the second intra prediction mode information used in operation S508, the second prediction modes of the plurality of second blocks are different prediction modes. Can be determined.
- the image decoding apparatus 100 may decode an image by performing intra prediction based on at least one of the first prediction mode determined in operation S502 and the second prediction mode determined in operation S508 or S510.
- FIG. 6 illustrates a process of determining a second prediction mode based on rows or columns of second blocks divided in a first block, according to an embodiment.
- the image decoding apparatus 100 may include a plurality of second blocks 610, 612, and the like included in the first block 600 based on a prediction direction of the first block 600.
- 614, 616 may determine a second prediction mode, in which case the second prediction mode of the plurality of second blocks is located within the first block 600 of the plurality of second blocks 610, 612, 614, 616. It may be determined based on.
- prediction directions 602 and 606 in which prediction is performed may be determined according to the first prediction mode of the first block 600.
- the plurality of second blocks 610, 612, 614, and 616 included in the first block 600 may be determined by dividing the height and the width of the first block 600.
- the second prediction mode may be equally determined for each second block located in the same row or second blocks located in the same column among the second blocks included in the first block 600.
- the decoder 120 determines that the prediction directions 611 of the second blocks 610 and 612 located in the first row within the first block 600 are the same, and the second row is the same.
- the prediction directions 615 of the second blocks 614 and 616 positioned at may be determined to be the same.
- the decoder 120 determines that the prediction directions 631 of the second blocks 630 and 632 located in the first column in the first block 620 are the same, and in the second column.
- the prediction directions 635 of the located second blocks 634 and 636 may be determined to be the same.
- the process of determining the second prediction mode for each of the second blocks may be performed by the image decoding apparatus 100 according to the above-described various embodiments.
- the decoder 120 may include a second block located in the same row or column based on whether a prediction direction corresponding to the first prediction mode of the first block is a direction similar to the vertical direction or a direction similar to the horizontal direction. It can be determined that their second prediction mode is the same.
- the decoder 120 has a reference sample in which the prediction direction of the first block is adjacent from the upper left point 603 to the upper right point 604 among the boundaries of the first block with respect to the center of the first block. In the case of the prediction direction for referencing the same, it may be determined that the direction is similar to the vertical direction.
- the decoder 120 has a prediction direction of the first block adjacent to an upper left point 623 to a lower left point 624 among the boundaries of the first block with respect to the center 625 of the first block.
- the direction similar to the horizontal direction may be determined.
- the decoder 120 determines that the second prediction modes of the second blocks located in the same row are the same. Can be. According to an embodiment, when the prediction direction corresponding to the first prediction mode of the first block is a direction similar to the horizontal direction, the decoder 120 may determine that the second prediction modes of the second blocks located in the same column are the same. have. According to an embodiment, the image decoding apparatus 100 may determine the second prediction modes of the second blocks located in the same row or column, based on the second intra prediction mode information of the second blocks located in the same row or column. .
- the decoder 120 may determine the second prediction modes of all second blocks located in the same row or column based on the second intra prediction mode information of one of the second blocks located in the same row or column. According to another exemplary embodiment, the decoder 120 may perform predetermined processing (eg, at least one second intra prediction) on at least one second intra prediction mode information among second blocks located in the same row or column.
- the second prediction mode of all second blocks located in the same row or column may be determined based on arithmetic processing (average value, weighted average value, etc.) of the index value of the intra prediction mode related to the mode information.
- FIG. 7 illustrates a process of using a neighboring prediction mode to determine a prediction mode of a current first block or a current second block according to an embodiment.
- the image decoding apparatus 100 may determine the first intra prediction mode information or the second prediction mode in order to determine the first prediction mode of the first block or the second prediction mode of the second block included in the current frame 700.
- Intra prediction mode information may be used.
- the first intra prediction mode information or the second intra prediction mode information may directly indicate an index for the intra prediction mode of the first block or the second block.
- the image decoding apparatus 100 may determine the intra prediction mode of the current first block or the current second block based on the intra prediction mode of the neighboring block.
- the first intra prediction mode information or The second intra prediction mode information may include information indicating which of the neighboring blocks of the first block or the second block to use the intra prediction mode.
- the first prediction mode or the second intra prediction mode information when the first intra prediction mode information or the second intra prediction mode information has a value of 11, an intra of a neighboring first block or a neighboring second block adjacent to the left of the current first block or the current second block The first prediction mode or the second prediction mode may be determined as the prediction mode.
- the first intra prediction mode information or the second intra prediction mode information when the first intra prediction mode information or the second intra prediction mode information has a value of 00, an intra of a neighboring first block or a neighboring second block adjacent to an upper side of the current first block or the current second block is present.
- the first prediction mode or the second prediction mode may be determined as the prediction mode.
- the first intra prediction mode information or the second intra prediction mode information when the first intra prediction mode information or the second intra prediction mode information has a value of 01, a neighboring first block or a neighboring second block adjacent to the left side or the upper side of the current first block or the current second block
- the first prediction mode or the second prediction mode may be determined as a prediction mode different from the intra prediction mode.
- intra prediction mode information for convenience of description of the process of determining the intra prediction modes of the current first block and the current second block using the intra prediction mode of the neighboring block, the current block, the current second block.
- an intra prediction mode of an adjacent neighboring block 702 or 704 may be referred to.
- the decoder 120 predicts the intra prediction mode using the prediction direction 703 of the neighboring block 702 adjacent to the upper side of the current block. You can decide in mode. If the intra prediction mode information of the current block 706 is 11, the decoder 120 may determine an intra prediction mode using the prediction direction 705 of the neighboring block 704 adjacent to the left side as the prediction mode of the current block. have.
- the decoder 120 when the intra prediction mode information of the current block 706 is 01 or 10, the decoder 120 is adjacent to the prediction direction 703 and the left side of the neighboring block 702 adjacent to the upper side.
- the intra prediction mode may be determined as the prediction mode of the current block by combining the prediction directions 705 of the neighboring blocks 704. For example, the index of the intra prediction mode associated with the prediction direction 703 of the neighboring block 702 adjacent to the upper side and the index of the intra prediction mode associated with the prediction direction 705 of the neighboring block 704 adjacent to the left side.
- the prediction mode of the current block 706 may be determined as the intra prediction mode for the index whose mean value is close.
- the intra prediction mode of the neighboring block 702 or 704 may be a directional intra prediction mode or a non-directional intra prediction mode.
- the image decoding apparatus 100 may determine a intra prediction mode of a current first block and a current second block by using an intra prediction mode of a neighboring first block adjacent to the current first block.
- the prediction mode may be determined, and the second prediction mode may be determined using the intra prediction mode of the neighboring second block adjacent to the current second block.
- the image decoding apparatus 100 uses an intra prediction mode of a neighboring first block adjacent to the current first block to determine an intra prediction mode of the current first block and the current second block.
- the first prediction mode may be determined, and the second prediction mode may be determined based on the intra prediction mode index indicated by the second intra prediction mode information for the current second block.
- the image decoding apparatus 100 may determine an intra prediction mode indicated by the first intra prediction mode information of the current first block to determine the intra prediction modes of the current first block and the current second block.
- the first prediction mode may be determined based on the second prediction mode, and the second prediction mode may be determined using the intra prediction mode of the neighboring second block adjacent to the current second block.
- the image decoding apparatus 100 refers to intra prediction modes of neighboring blocks adjacent to the current first block or the current second block. It should not be construed as being limited to one intra prediction mode value and a second intra prediction mode value.
- Various embodiments using intra prediction mode information of a neighboring block may use a method similar to a prediction mode determination method using an mpm index in various intra prediction methods.
- FIG. 8 illustrates various prediction directions and indices available in an intra prediction mode, according to an embodiment.
- the number of intra prediction modes that may be used in the first prediction mode of the current first block may be different from the number of intra prediction modes that may be used in the second prediction mode of the current second block.
- the number of intra prediction modes that may be used in the first prediction mode of the current first block may be M
- the number of intra prediction modes that may be used in the second prediction mode of the current second block may be There may be N (M and N are different).
- a feature in which a different number of intra prediction modes are used may be applied to both a directional intra prediction mode and a non-directional intra prediction mode.
- the decoder 120 uses the directional intra for convenience of explanation. The process of determining the first prediction mode and the second prediction mode, which are prediction modes, will be described below.
- the decoder 120 may determine the first prediction mode or the second prediction mode by determining an index of the intra prediction mode based on the first intra prediction mode information or the second intra prediction mode information.
- the decoder 120 may determine, as the second prediction mode, the directional intra prediction mode using one of the indices representing the 33 prediction directions based on the second intra prediction mode information.
- the decoder 120 may use indexes 801, 802, 803, 804, 805, indicating the nine prediction directions based on the first intra prediction mode information.
- the directional intra prediction mode using one of 806, 807, 808, 809 may be determined as the first prediction mode.
- the nine prediction directions considered in the first prediction mode determination process may be part of the 33 prediction directions considered in the second prediction mode determination process.
- 9A is a flowchart of a process of performing prediction by examining whether to perform a process of determining a second prediction mode of a second block according to an embodiment.
- the feature of the operation performed by the image decoding apparatus 100 in steps S900 and S902 may be similar to that of the operations performed in steps S200 and S202 of FIG. 2A, and thus, a detailed description thereof will be omitted. do.
- the decoder 120 may determine whether to perform prediction by determining not only the first prediction mode but also the second prediction mode, according to an embodiment.
- the bitstream obtainer 110 may obtain a flag indicating whether to perform prediction by determining the second prediction mode from the bitstream.
- the bitstream acquisition unit 110 determines a flag indicating whether to perform prediction by determining the second prediction mode (for example, a sequence, a frame, a slice, a slice segment, a maximum coding unit, a coding unit, etc.). Can be obtained from the bitstream every time.
- the decoder 120 may decode an image by performing an intra prediction mode based on the first prediction mode in operation S909.
- the decoder 120 may determine a plurality of second blocks currently included in the first block. have.
- the bitstream obtainer 110 may obtain a flag indicating whether to perform prediction by determining the second prediction mode from the bitstream, and the decoder 120 may determine the second prediction mode by Based on a flag indicating whether to perform prediction, not only the first prediction mode but also the second prediction mode may be determined to determine whether to perform the prediction.
- steps S908 and S910 may be similar to those of operations performed in steps S206 and S208 of FIG. 2A, and thus, detailed descriptions thereof will be omitted.
- the image encoding apparatus 150 that may perform the image encoding method related to the image decoding method of the image decoding apparatus 100 described above will be described.
- FIG. 1B is a block diagram of an image encoding apparatus 150 that may determine a prediction mode for a plurality of second blocks included in a first block based on a prediction mode of a current first block.
- the image encoding apparatus 150 generates a bitstream including first intra prediction mode information indicating an intra prediction mode of a first block and second intra prediction mode information indicating an intra prediction mode of a second block. Determining a first block and a second block included in a current frame, which is one of the bitstream generator 160 and at least one frame constituting the image, and a first prediction mode that is an intra prediction method for the first block;
- the encoder 170 may be configured to determine a second prediction mode which is an intra prediction method for the second block, and to encode an image.
- the second prediction mode may be determined based on the first prediction mode.
- the encoder 170 may perform intra prediction of the second block based on the intra prediction mode used in the intra prediction process of the first block, and the bitstream generator 160 may make such a prediction.
- a bitstream including first intra prediction mode information indicating an intra prediction mode performed in one block and second intra prediction mode information indicating an intra prediction mode performed in a second block may be generated.
- 2B is a flowchart of a method of determining, by the image encoding apparatus 150, prediction modes for a plurality of second blocks based on a prediction mode of a current first block, according to an embodiment.
- the encoder 170 may determine at least one first block for dividing the current frame, which is one of at least one frame included in the image, in operation S210. Various types of blocks may be used in the encoding process of the current frame, and the encoder 170 may perform an image encoding process based on various data blocks. According to an embodiment, the encoder 170 may determine whether intra prediction is currently performed in the first block. According to an embodiment, the encoder 170 may determine whether intra prediction is to be performed on the current first block based on information indicating the type of a predetermined data unit (eg, a slice) including the current first block. have. A process of determining whether the intra prediction mode is currently performed in the first block may correspond to a determination process performed by various conventional encoding methods, and thus a detailed description thereof will be omitted.
- a predetermined data unit eg, a slice
- the encoder 170 may include a first prediction indicating an intra prediction method to be performed in the first block.
- the mode can be determined.
- the encoder 170 may determine what intra prediction is to be performed for each first block.
- the first block may include various types of data blocks. For example, it may be determined whether intra prediction or inter prediction is performed for each first block. As another example, it may be determined what type of intra prediction is performed in the intra prediction mode for each first block.
- the image encoding apparatus 150 may determine the prediction mode of the current first block, and the bitstream generator 160 may include first intra prediction mode information for each first block that divides the current frame. A bitstream can be generated.
- the first intra prediction mode information may include an index indicating an intra prediction mode of the current first block.
- the image encoding apparatus 150 may determine a plurality of second blocks currently included in the first block in operation S214.
- the relationship between the first block dividing the current frame and a data block called at least one second block included in the first block may include an inclusion relationship between various data blocks.
- the second block included in the first block when the first block is a maximum coding unit, may be a coding unit divided from the maximum coding unit. According to an embodiment, when the first block is a coding unit, the second block included in the first block may be a prediction unit or a transformation unit determined based on the coding unit.
- the first block and the second block should not be construed as being limited to the above-described embodiment, It can be interpreted that various types of data blocks having similar inclusion relations are included.
- the image encoding apparatus 150 may determine a second prediction mode indicating an intra prediction method to be performed in the plurality of second blocks in step S216.
- 3A illustrates a process of determining intra prediction modes of a plurality of second blocks based on intra prediction modes of a first block, according to an embodiment.
- the image encoding apparatus 150 may determine a first prediction mode indicating an intra prediction method to be currently performed in the first block.
- the encoder 170 may determine whether intra prediction is to be performed in the current first block 300, which is one of the first blocks that split the current frame, and how the intra prediction is performed. Can be determined.
- the intra prediction mode that may be performed in the first block may be a directional intra prediction method or an directional intra prediction.
- the image encoding method performed by the image encoding apparatus 150 with reference to FIG. 3A may be similar to the image decoding method performed by the image decoding apparatus 100 with reference to FIG. 3A, and thus, a detailed description thereof will be omitted.
- FIG. 3B illustrates a process of determining a prediction mode based on a block of a non-square shape for dividing an image, according to an exemplary embodiment.
- the encoder 170 of the image encoding apparatus 150 may encode an image using not only a square data unit but also a non-square data unit. Referring to FIG. 3B, the encoder 170 may perform a plurality of types of intra prediction in the current first block 320 including the second blocks 330, 332, 334, and 336.
- the second intra prediction mode information generated in relation to the second blocks 310, 312, 314, and 316 may be related to the intra prediction method of the first block 300.
- the shape of the plurality of second blocks 330, 332, 334, and 336 currently included in the first block 320 may be non-square.
- a non-square first block which is not the same as the current first block 320 shown in FIG. 3B, may be included in the current frame.
- the shape of the plurality of second blocks included in the first block of the non-square shape may also be a data block of the square shape or the non-square shape. That is, in the case of the form of the first block and the second block that can be used in various embodiments, the first block and the second block satisfy the inclusion relationship between the first block and the second block, such as square or non-square shape. It can be in various forms.
- the second intra prediction mode information generated in relation to the second blocks 330, 332, 334, and 336 may be related to the intra prediction method of the first block 320.
- the method of determining the second prediction mode of the non-square second blocks 330, 332, 334, and 336 may be similar to the method described with reference to FIG. 3A, and thus a detailed description thereof will be omitted. .
- 3C illustrates a process of determining an intra prediction mode in a second block included in a first block according to an embodiment.
- the encoder 170 may determine an intra prediction mode for each of the second blocks.
- the intra prediction mode determined in the first block 350 is a directional intra prediction mode, and the intra prediction mode referring to a reference sample adjacent to at least one of a left boundary and an upper boundary of the first block 350 may be included. Can be used.
- the intra prediction mode of the second block 360 may be determined based on the intra prediction mode. In this case, the intra prediction mode of the first block may be the reference.
- the intra prediction mode of the first block 350 used to determine the intra prediction mode of the second block 360 will be referred to as a reference intra prediction mode.
- the encoder 170 may further include the encoder 170 according to an embodiment.
- the number and directions of the directional intra prediction modes that may be used in the second block 360 may be determined based on the reference intra prediction mode. You can decide. Specifically, as shown in Table 1, when the second intra prediction mode information of the second block 360 is 00, intra prediction may be performed by referring to reference samples located in the same direction as the reference intra prediction mode. .
- the index associated with the intra prediction mode that the second intra prediction mode information used by the encoder 170 may vary according to the direction of the reference intra prediction mode.
- the encoder 170 differently determines the second prediction mode indicated by the second intra prediction mode information based on a result of comparing the index K determined according to the reference intra prediction mode with a predetermined threshold L. Can be. According to the above-described Table 2, the encoder 170 may determine the second prediction mode according to the comparison result of K and L, and the bitstream generator 160 may determine the second intra prediction mode information indicating the second prediction mode. It may generate a bitstream including.
- the image encoding method performed by the image encoding apparatus 150 with respect to FIG. 3C may be a similar method in which the image decoding method performed by the image decoding apparatus 100 with respect to FIG. 3C may be performed in the reverse order. Is omitted.
- 4B is a flowchart illustrating a process of determining based on a first prediction mode of a first block and a second prediction mode of a previous second block to determine a second prediction mode of a current second block, according to an embodiment. .
- the operation performed by the image encoding apparatus 150 in steps S420 to S424 may be similar to the operation performed in steps S210 to S214 of FIG. 2B, and thus detailed description thereof will be omitted.
- the encoder 170 may determine a reference prediction direction used in the current second block based on the prediction direction of the current first block and the prediction direction related to the previous second block. According to an embodiment, the encoder 170 may perform encoding by determining an order in which a plurality of second blocks currently included in the first block are processed.
- the order in which the second blocks are processed may be a predetermined order, and the order may be various orders according to the types of the plurality of second blocks currently included in the first block. For example, when the plurality of second blocks is currently divided into the same number of rows and columns, the first block may be processed according to a Z-scan order.
- the plurality of second blocks When the plurality of second blocks is in the form of dividing the first block in the form or column direction, the plurality of second blocks may be processed in a direction perpendicular to the direction in which the first block is currently divided.
- the encoder 170 may determine the second prediction mode of the current second block by using the prediction direction associated with the previously processed second block based on the processing order of the second block determined according to an embodiment.
- the image encoding apparatus 150 may determine a prediction mode using one of a plurality of prediction directions including a reference prediction direction as the second prediction mode for the current second block, according to an embodiment.
- the image decoding apparatus 100 may encode an image by performing intra prediction based on the first prediction mode and the second prediction mode, according to an embodiment.
- An image encoding method that may be performed by the image encoding apparatus 150 in relation to FIGS. 4C, 4D, and 4E may include an image performed by the image decoding apparatus 100 in relation to FIGS. 4C, 4D, and 4E. Since the decoding method may be a similar method performed in the reverse order, a detailed description thereof will be omitted.
- 5B is a flowchart illustrating a process of determining a second prediction mode of second blocks based on whether directional intra prediction is currently performed in a first block according to an embodiment.
- a feature of an operation performed by the image encoding apparatus 150 in steps S520 to S524 may be similar to that of an operation performed in steps S210 to S214 of FIG. 2B, and thus, a detailed description thereof will be omitted. do.
- the image encoding apparatus 150 may determine whether the first prediction mode determined in operation S522 is a directional intra prediction mode.
- the directional intra prediction mode may be an intra prediction mode in which a prediction operation using a reference sample adjacent to the first block is performed in a specific direction related to an index of the intra prediction mode.
- the non-directional intra prediction mode may be an intra prediction mode in which intra prediction is performed by using a reference sample adjacent to the first block, but prediction is not performed according to a specific direction, but overall.
- the non-directional intra prediction mode may include a DC mode, a planar mode, and the like, and the directional intra prediction mode may include an angular mode capable of using various prediction directions.
- the encoder 170 may determine whether the prediction mode performed in the first block is a directional intra prediction mode, and the bitstream generator 160 may determine the first intra prediction mode with respect to the prediction mode of the first block.
- a bitstream including information may be generated.
- the first intra prediction mode information may be information including an index for distinguishing an intra prediction mode.
- the encoder 170 may determine a second prediction mode indicating the directional intra prediction mode to be performed in the plurality of second blocks in step S528. . That is, when the first prediction mode for the first block including the plurality of second blocks is the directional intra prediction mode, the encoder 170 determines that the second prediction mode for the second block is the directional intra prediction mode. Can be.
- the encoder 170 determines a second prediction mode indicating the non-directional intra prediction mode to be performed in the plurality of second blocks in step S530. Can be. That is, when the first prediction mode for the first block including the plurality of second blocks is the non-directional intra prediction mode, the encoder 170 may determine that the second prediction mode is the directional intra prediction mode. In this case, even if the image encoding apparatus 150 determines that the second prediction modes of the plurality of second blocks are different prediction modes, the second intra prediction mode information generated by the bitstream generator 160 may be the same. .
- the image encoding apparatus 150 may encode an image by performing intra prediction based on at least one of the first prediction mode determined in operation S522 and the second prediction mode determined in operation S528 or S530.
- FIG. 6 illustrates a process of determining a second prediction mode based on rows or columns of second blocks divided in a first block, according to an embodiment.
- the image encoding apparatus 150 may include a plurality of second blocks 610, 612, and the like included in the first block 600 based on a prediction direction of the first block 600.
- 614, 616 may determine a second prediction mode, in which case the second prediction mode of the plurality of second blocks is located within the first block 600 of the plurality of second blocks 610, 612, 614, 616. It may be determined based on.
- prediction directions 602 and 606 in which prediction is performed may be determined according to the first prediction mode of the first block 600.
- the plurality of second blocks 610, 612, 614, and 616 included in the first block 600 may be determined by dividing the height and the width of the first block 600.
- the image encoding method that may be performed by the image encoding apparatus 150 in relation to FIG. 6 may be a similar method in which the image decoding method performed by the image decoding apparatus 100 described above with respect to FIG. 6 is performed in the reverse order. Detailed description will be omitted.
- FIG. 7 illustrates a process of using a neighboring prediction mode to determine a prediction mode of a current first block or a second block according to an embodiment.
- the image encoding apparatus 150 may determine the intra prediction mode of the current first block or the current second block based on the intra prediction mode of the neighboring block.
- the image encoding method that may be performed by the image encoding apparatus 150 in relation to FIG. 7 may be a similar method in which the image decoding method performed by the image decoding apparatus 100 described above with respect to FIG. 7 is performed in the reverse order. Detailed description will be omitted.
- FIG. 8 illustrates various prediction directions and indices available in an intra prediction mode, according to an embodiment.
- the number of intra prediction modes that may be used in the first prediction mode of the current first block may be different from the number of intra prediction modes that may be used in the second prediction mode of the current second block.
- the number of intra prediction modes that may be used in the first prediction mode of the current first block may be M
- the number of intra prediction modes that may be used in the second prediction mode of the current second block may be There may be N (M and N are different).
- a feature in which a different number of intra prediction modes are used may be applied to both a directional intra prediction mode and a non-directional intra prediction mode.
- the encoder 170 may use the directional intra for convenience of explanation. The process of determining the first prediction mode and the second prediction mode, which are prediction modes, will be described below.
- the encoder 170 may determine the first prediction mode or the second prediction mode based on the index of the intra prediction mode.
- the encoder 170 may determine the directional intra prediction mode using one of the indices representing the 33 prediction directions as the second prediction mode.
- the encoder 170 of the indexes 801, 802, 803, 804, 805, 806, 807, 808, 809 representing nine prediction directions is determined.
- the directional intra prediction mode using one may be determined as the first prediction mode.
- the nine prediction directions considered in the first prediction mode determination process may be part of the 33 prediction directions considered in the second prediction mode determination process.
- 9B is a flowchart of performing prediction by examining whether to perform a process of determining a second prediction mode of a second block according to an embodiment.
- a feature of an operation performed by the image encoding apparatus 150 in steps S920 and S922 may be similar to that of operations performed in steps S210 and S212 of FIG. 2B, and thus, a detailed description thereof will be omitted. do.
- the encoder 170 may determine whether to perform prediction by determining not only the first prediction mode but also the second prediction mode, according to an embodiment.
- the bitstream generator 160 determines a bitstream including a flag indicating whether to perform the prediction by determining the second prediction mode (for example, a sequence, a frame, a slice, a slice segment, and a maximum coding unit). , Coding units, etc.).
- the encoder 170 may encode an image by performing an intra prediction mode based on the first prediction mode in operation S909.
- the encoder 170 may determine a plurality of second blocks currently included in the first block in operation S906. have.
- steps S928 and S930 may be similar to those of operations performed in steps S216 and S218 of FIG. 2B, and thus, detailed descriptions thereof will be omitted.
- An operation of the image encoding apparatus 150 may be similar to or opposite to various embodiments of the operation of the image decoding apparatus 100 described later.
- FIG. 10 illustrates a process of determining, by the image decoding apparatus 100, at least one coding unit by dividing a current coding unit according to an embodiment.
- the image decoding apparatus 100 may determine a shape of a coding unit by using block shape information, and determine in which form the coding unit is divided using the split shape information. That is, the method of dividing the coding unit indicated by the segmentation form information may be determined according to which block form the block form information used by the image decoding apparatus 100 represents.
- the image decoding apparatus 100 may use block shape information indicating that the current coding unit is square. For example, the image decoding apparatus 100 may determine whether to split a square coding unit, to split vertically, to split horizontally, or to split into four coding units according to the split type information.
- the decoder 1030 may have the same size as the current coding unit 1000 according to the split shape information indicating that the block shape information is not divided.
- the split coding units 1010a may not be divided, or the split coding units 1010b, 1010c, 1010d, and the like may be determined based on split type information indicating a predetermined division method.
- the image decoding apparatus 100 determines two coding units 1010b that split the current coding unit 1000 in the vertical direction based on split type information indicating that the image is split in the vertical direction. Can be.
- the image decoding apparatus 100 may determine two coding units 1010c obtained by dividing the current coding unit 1000 in the horizontal direction, based on the split type information indicating the split in the horizontal direction.
- the image decoding apparatus 100 may determine four coding units 1010d obtained by dividing the current coding unit 1000 in the vertical direction and the horizontal direction based on the split type information indicating that the image decoding apparatus 100 is split in the vertical direction and the horizontal direction.
- the divided form in which the square coding unit may be divided should not be limited to the above-described form and may include various forms represented by the divided form information. Certain division forms in which a square coding unit is divided will be described in detail with reference to various embodiments below.
- FIG. 11 illustrates a process of determining, by the image decoding apparatus 100, at least one coding unit by dividing a coding unit having a non-square shape according to an embodiment.
- the image decoding apparatus 100 may use block shape information indicating that a current coding unit is a non-square shape.
- the image decoding apparatus 100 may determine whether to divide the current coding unit of the non-square according to the split type information or to split it by a predetermined method. Referring to FIG. 11, when the block shape information of the current coding unit 1100 or 1150 indicates a non-square shape, the image decoding apparatus 100 may not split the current coding unit 1100 according to the split shape information indicating that the shape is not divided.
- coding units 1110a, 1120b, 1130a, 1130b, 1130c, 1170a which do not divide the coding units 1110 or 1160 having the same size as that of 1150, or are divided based on the split type information indicating a predetermined division method.
- 1170b, 1180a, 1180b, and 1180c may be determined.
- a predetermined division method in which a non-square coding unit is divided will be described in detail with reference to various embodiments below.
- the image decoding apparatus 100 may determine a shape in which a coding unit is divided using split shape information.
- the split shape information may include the number of at least one coding unit generated by splitting a coding unit. Can be represented.
- the image decoding apparatus 100 may determine the current coding unit 1100 or 1150 based on the split type information. By splitting, two coding units 1120a, 11420b, or 1170a and 1170b included in the current coding unit may be determined.
- the image decoding apparatus 100 when the image decoding apparatus 100 splits the current coding unit 1100 or 1150 of the non-square shape based on the split shape information, the image coding apparatus 100 of the non-square current coding unit 1100 or 1150 of the non-square shape may be divided.
- the current coding unit may be split in consideration of the position of the long side. For example, the image decoding apparatus 100 divides the current coding unit 1100 or 1150 in a direction of dividing a long side of the current coding unit 1100 or 1150 in consideration of the shape of the current coding unit 1100 or 1150. To determine a plurality of coding units.
- the image decoding apparatus 100 may determine an odd number of coding units included in the current coding unit 1100 or 1150. For example, when the split form information indicates that the current coding unit 1100 or 1150 is divided into three coding units, the image decoding apparatus 100 may divide the current coding unit 1100 or 1150 into three coding units 1130a. , 1130b, 1130c, 1180a, 1180b, and 1180c. According to an embodiment, the image decoding apparatus 100 may determine an odd number of coding units included in the current coding unit 1100 or 1150, and not all sizes of the determined coding units may be the same.
- the size of a predetermined coding unit 1130b or 1180b among the determined odd coding units 1130a, 1130b, 1130c, 1180a, 1180b, and 1180c may be different from other coding units 1130a, 1130c, 1180a, and 1180c. May have That is, a coding unit that may be determined by dividing the current coding unit 1100 or 1150 may have a plurality of types, and in some cases, odd number of coding units 1130a, 1130b, 1130c, 1180a, 1180b, and 1180c. Each may have a different size.
- the image decoding apparatus 100 may determine an odd number of coding units included in the current coding unit 1100 or 1150.
- the image decoding apparatus 100 may set a predetermined limit on at least one coding unit among odd-numbered coding units generated by dividing.
- the image decoding apparatus 100 is a coding unit positioned at the center of three coding units 1130a, 1130b, 1130c, 1180a, 1180b, and 1180c generated by splitting a current coding unit 1100 or 1150.
- the decoding process for (1130b, 1180b) may be different from other coding units 1130a, 1130c, 1180a, and 1180c.
- the image decoding apparatus 100 may limit the coding units 1130b and 1180b to be no longer divided, or only a predetermined number of times. You can limit it to split.
- FIG. 12 illustrates a process of splitting a coding unit by the image decoding apparatus 100 based on at least one of block shape information and split shape information, according to an embodiment.
- the image decoding apparatus 100 may determine whether to split or not split the first coding unit 1200 having a square shape into coding units based on at least one of block shape information and split shape information. According to an embodiment, when the split type information indicates splitting the first coding unit 1200 in the horizontal direction, the image decoding apparatus 100 splits the first coding unit 1200 in the horizontal direction to thereby split the second coding unit. 1210 may be determined.
- the first coding unit, the second coding unit, and the third coding unit used according to an embodiment are terms used to understand a before and after relationship between the coding units. For example, when the first coding unit is split, the second coding unit may be determined. When the second coding unit is split, the third coding unit may be determined.
- the relationship between the first coding unit, the second coding unit, and the third coding unit used is based on the above-described feature.
- the image decoding apparatus 100 may determine to divide or not split the determined second coding unit 1210 into coding units based on at least one of block shape information and split shape information. Referring to FIG. 12, the image decoding apparatus 100 may determine a second coding unit 1210 having a non-square shape determined by dividing the first coding unit 1200 based on at least one of block shape information and split shape information. It may be divided into at least one third coding unit 1220a, 1220b, 1220c, 1220d, or the like, or may not split the second coding unit 1210.
- the image decoding apparatus 100 may obtain at least one of the block shape information and the split shape information, and the image decoding apparatus 100 may determine the first coding unit 1200 based on at least one of the obtained block shape information and the split shape information.
- the unit 1200 may be divided according to the divided manner.
- the second The coding unit 1210 may also be divided into third coding units (eg, 1220a, 1220b, 1220c, 1220d, etc.) based on at least one of block shape information and split shape information of the second coding unit 1210. have. That is, the coding unit may be recursively divided based on at least one of the partition shape information and the block shape information associated with each coding unit.
- a square coding unit may be determined in a non-square coding unit, and a coding unit of a square shape may be recursively divided to determine a coding unit of a non-square shape.
- a predetermined coding unit eg, located in the middle of odd-numbered third coding units 1220b, 1220c, and 1220d determined by dividing a second coding unit 1210 having a non-square shape
- Coding units or coding units having a square shape may be recursively divided.
- the third coding unit 1220c having a square shape which is one of odd third coding units 1220b, 1220c, and 1220d, may be divided in a horizontal direction and divided into a plurality of fourth coding units.
- the fourth coding unit 1240 having a non-square shape which is one of the plurality of fourth coding units, may be divided into a plurality of coding units.
- the fourth coding unit 1240 having a non-square shape may be divided into odd coding units 1250a, 1250b, and 1250c.
- the image decoding apparatus 100 splits each of the third coding units 1220a, 1220b, 1220c, 1220d, etc. into coding units based on at least one of block shape information and split shape information, or performs second encoding. It may be determined that the unit 1210 is not divided. According to an embodiment, the image decoding apparatus 100 may divide the second coding unit 1210 having a non-square shape into an odd number of third coding units 1220b, 1220c, and 1220d. The image decoding apparatus 100 may place a predetermined limit on a predetermined third coding unit among the odd number of third coding units 1220b, 1220c, and 1220d.
- the image decoding apparatus 100 may be limited to the number of coding units 1220c positioned in the middle of the odd number of third coding units 1220b, 1220c, and 1220d, or may be divided by a set number of times. It can be limited to.
- the image decoding apparatus 100 may include a coding unit positioned at the center among odd-numbered third coding units 1220b, 1220c, and 1220d included in a second coding unit 1210 having a non-square shape.
- the 1220c is no longer divided, or is limited to being divided into a predetermined division form (for example, only divided into four coding units or divided into a form corresponding to the divided form of the second coding unit 1210), or It can be limited to dividing only by the number of times (eg, dividing only n times, n> 0).
- the above limitation on the coding unit 1220c located in the center is merely a mere embodiment and should not be construed as being limited to the above-described embodiments, and the coding unit 1220c located in the center may be different from the coding units 1220b and 1220d. ), It should be interpreted as including various restrictions that can be decoded.
- the image decoding apparatus 100 may obtain at least one of block shape information and split shape information used to divide a current coding unit at a predetermined position in the current coding unit.
- FIG. 13 illustrates a method for the image decoding apparatus 100 to determine a predetermined coding unit among odd number of coding units, according to an exemplary embodiment.
- at least one of the block shape information and the split shape information of the current coding unit 1300 may be a sample of a predetermined position (for example, located at the center of a plurality of samples included in the current coding unit 1300). Sample 1340).
- a predetermined position in the current coding unit 1300 from which at least one of such block shape information and split shape information may be obtained should not be interpreted as being limited to the center position shown in FIG. 13, and the current coding unit 1300 is located at the predetermined position.
- the image decoding apparatus 100 may determine that the current coding unit is divided into coding units of various shapes and sizes by not obtaining at least one of block shape information and split shape information obtained from a predetermined position.
- the image decoding apparatus 100 may select one coding unit from among them. Methods for selecting one of a plurality of coding units may vary, which will be described below through various embodiments.
- the image decoding apparatus 100 may divide a current coding unit into a plurality of coding units and determine a coding unit of a predetermined position.
- FIG. 13 illustrates a method for the image decoding apparatus 100 to determine a coding unit at a predetermined position among odd-numbered coding units according to an embodiment.
- the image decoding apparatus 100 may use information indicating the position of each of the odd coding units to determine a coding unit located in the middle of the odd coding units. Referring to FIG. 13, the image decoding apparatus 100 may determine an odd number of coding units 1320a, 1320b, and 1320c by dividing the current coding unit 1300. The image decoding apparatus 100 may determine the central coding unit 1320b by using information about the positions of the odd number of coding units 1320a, 1320b, and 1320c. For example, the image decoding apparatus 100 determines the positions of the coding units 1320a, 1320b, and 1320c based on information indicating the positions of predetermined samples included in the coding units 1320a, 1320b, and 1320c.
- the coding unit 1320b positioned at may be determined.
- the image decoding apparatus 100 may determine the location of the coding units 1320a, 1320b, and 1320c based on information indicating the positions of the samples 1330a, 1330b, and 1330c in the upper left of the coding units 1320a, 1320b, and 1320c. By determining the position, the coding unit 1320b positioned in the center may be determined.
- the information indicating the positions of the samples 1330a, 1330b, and 1330c in the upper left included in the coding units 1320a, 1320b, and 1320c, respectively may be located in the pictures of the coding units 1320a, 1320b, and 1320c. Or it may include information about the coordinates. According to an embodiment, the information indicating the positions of the samples 1330a, 1330b, and 1330c in the upper left included in the coding units 1320a, 1320b, and 1320c, respectively, may be included in the coding units 1320a and 1320b in the current coding unit 1300.
- the image decoding apparatus 100 may directly use information about the position or coordinates in the pictures of the coding units 1320a, 1320b, and 1320c, or may provide information about the width or height of the coding unit corresponding to the difference between the coordinates. By using this, the coding unit 1320b located in the center can be determined.
- the information indicating the position of the sample 1330a at the upper left of the upper coding unit 1320a may indicate (xa, ya) coordinates, and the sample 1330b at the upper left of the middle coding unit 1320b.
- the information indicating the position of) may indicate the (xb, yb) coordinates, and the information indicating the position of the sample 1330c on the upper left of the lower coding unit 1320c may indicate the (xc, yc) coordinates.
- the image decoding apparatus 100 may determine the center coding unit 1320b using the coordinates of the samples 1330a, 1330b, and 1330c in the upper left included in the coding units 1320a, 1320b, and 1320c, respectively.
- a coding unit 1320b including (xb, yb), which is the coordinate of the sample 1330b located in the center May be determined as a coding unit located in the middle of the coding units 1320a, 1320b, and 1320c determined by splitting the current coding unit 1300.
- the coordinates indicating the positions of the samples 1330a, 1330b, and 1330c at the upper left may indicate coordinates indicating the absolute positions in the picture, and further, the positions of the samples 1330a at the upper left of the upper coding unit 1320a.
- the (dxb, dyb) coordinate which is information indicating the relative position of the upper left sample 1330b of the middle coding unit 1320b, and the relative position of the upper left sample 1330c of the lower coding unit 1320c.
- Information (dxc, dyc) coordinates can also be used.
- the method of determining the coding unit of a predetermined position by using the coordinates of the sample as information indicating the position of the sample included in the coding unit should not be interpreted to be limited to the above-described method, and various arithmetic operations that can use the coordinates of the sample are available. It should be interpreted in a way.
- the image decoding apparatus 100 may split the current coding unit 1300 into a plurality of coding units 1320a, 1320b, and 1320c, and may determine a predetermined reference among the coding units 1320a, 1320b, and 1320c. According to the coding unit can be selected. For example, the image decoding apparatus 100 may select coding units 1320b having different sizes from among coding units 1320a, 1320b, and 1320c.
- the image decoding apparatus 100 may include (xa, ya) coordinates, which are information indicating a position of a sample 1330a at the upper left of the upper coding unit 1320a, and a sample at the upper left of the center coding unit 1320b.
- Coding unit 1320a using (xb, yb) coordinates indicating information of position of (1330b) and (xc, yc) coordinates indicating information of sample 1330c on the upper left of lower coding unit 1320c. 1320b, 1320c) may determine the width or height of each.
- the image decoding apparatus 100 uses (xa, ya), (xb, yb), and (xc, yc) coordinates indicating the positions of the coding units 1320a, 1320b, and 1320c, and encodes the units 1320a, 1320b, and 1320c. ) Each size can be determined.
- the image decoding apparatus 100 may determine the width of the upper coding unit 1320a as xb-xa and the height as yb-ya. According to an embodiment, the image decoding apparatus 100 may determine the width of the central coding unit 1320b as xc-xb and the height as yc-yb. According to an embodiment, the image decoding apparatus 100 may determine the width or height of the lower coding unit using the width or height of the current coding unit, and the width and height of the upper coding unit 1320a and the center coding unit 1320b. .
- the image decoding apparatus 100 may determine a coding unit having a different size from other coding units based on the width and the height of the determined coding units 1320a, 1320b, and 1320c. Referring to FIG. 13, the image decoding apparatus 100 may determine a coding unit 1320b as a coding unit having a predetermined position while having a size different from that of the upper coding unit 1320a and the lower coding unit 1320c. However, in the above-described process of determining, by the image decoding apparatus 100, a coding unit having a different size from another coding unit, the coding unit at a predetermined position may be determined using the size of the coding unit determined based on the sample coordinates. In this regard, various processes of determining a coding unit at a predetermined position by comparing the sizes of coding units determined according to predetermined sample coordinates may be used.
- the position of the sample to be considered for determining the position of the coding unit should not be interpreted as being limited to the upper left side described above, but may be interpreted that information on the position of any sample included in the coding unit may be used.
- the image decoding apparatus 100 may select a coding unit of a predetermined position among odd-numbered coding units determined by dividing the current coding unit in consideration of the shape of the current coding unit. For example, if the current coding unit has a non-square shape having a width greater than the height, the image decoding apparatus 100 may determine the coding unit at a predetermined position in the horizontal direction. That is, the image decoding apparatus 100 may determine one of the coding units having different positions in the horizontal direction to limit the corresponding coding unit. If the current coding unit has a non-square shape having a height greater than the width, the image decoding apparatus 100 may determine a coding unit of a predetermined position in the vertical direction. That is, the image decoding apparatus 100 may determine one of the coding units having different positions in the vertical direction to limit the corresponding coding unit.
- the image decoding apparatus 100 may use information indicating the positions of each of the even coding units to determine the coding unit of the predetermined position among the even coding units.
- the image decoding apparatus 100 may determine an even number of coding units by dividing a current coding unit and determine a coding unit of a predetermined position by using information about the positions of the even coding units.
- a detailed process for this may be a process corresponding to a process of determining a coding unit of a predetermined position (for example, a middle position) among the odd number of coding units described above with reference to FIG.
- a predetermined value for a coding unit of a predetermined position in the splitting process is determined to determine a coding unit of a predetermined position among the plurality of coding units.
- Information is available.
- the image decoding apparatus 100 may determine block shape information and a split shape stored in a sample included in a middle coding unit in a splitting process in order to determine a coding unit located in a center among coding units in which a current coding unit is divided into a plurality. At least one of the information may be used.
- the image decoding apparatus 100 may divide the current coding unit 1300 into a plurality of coding units 1320a, 1320b, and 1320c based on at least one of block shape information and split shape information.
- a coding unit 1320b positioned in the center of the plurality of coding units 1320a, 1320b, and 1320c may be determined.
- the image decoding apparatus 100 may determine a coding unit 1320b positioned in the center in consideration of a position where at least one of block shape information and split shape information is obtained.
- At least one of the block shape information and the split shape information of the current coding unit 1300 may be obtained from a sample 1340 positioned in the center of the current coding unit 1300, and the block shape information and the split shape information may be obtained.
- the coding unit 1320b including the sample 1340 is a coding unit positioned at the center. You can decide.
- the information used to determine the coding unit located in the middle should not be interpreted as being limited to at least one of the block type information and the split type information, and various types of information may be used in the process of determining the coding unit located in the center. Can be.
- predetermined information for identifying a coding unit of a predetermined position may be obtained from a predetermined sample included in the coding unit to be determined.
- the image decoding apparatus 100 may divide a current coding unit 1300 into a plurality of coding units (eg, divided into a plurality of coding units 1320a, 1320b, and 1320c).
- Block shape information obtained from a sample at a predetermined position (for example, a sample located in the center of the current coding unit 1300) in the current coding unit 1300 to determine a coding unit located in the center of the coding units; At least one of the partition type information may be used. .
- the image decoding apparatus 100 may determine a sample at the predetermined position in consideration of the block block form of the current coding unit 1300, and the image decoding apparatus 100 may determine that the current coding unit 1300 is divided and determined.
- a coding unit 1320b including a sample from which predetermined information (for example, at least one of block shape information and split shape information) may be obtained may be determined.
- predetermined information for example, at least one of block shape information and split shape information
- the image decoding apparatus 100 may determine a sample 1340 positioned in the center of the current coding unit 1300 as a sample from which predetermined information may be obtained.
- the 100 may set a predetermined limit in the decoding process of the coding unit 1320b including the sample 1340.
- the position of the sample from which the predetermined information can be obtained should not be interpreted as being limited to the above-described position, but may be interpreted as samples of arbitrary positions included in the coding unit 1320b to be determined for the purpose of limitation.
- a position of a sample from which predetermined information may be obtained may be determined according to the shape of the current coding unit 1300.
- the block shape information may determine whether the shape of the current coding unit is square or non-square, and determine the position of a sample from which the predetermined information may be obtained according to the shape.
- the image decoding apparatus 100 may be positioned on a boundary that divides at least one of the width and the height of the current coding unit in half using at least one of information about the width and the height of the current coding unit.
- the sample may be determined as a sample from which predetermined information can be obtained.
- the image decoding apparatus 100 may select one of samples adjacent to a boundary that divides the long side of the current coding unit in half. May be determined as a sample from which information may be obtained.
- the image decoding apparatus 100 when the image decoding apparatus 100 divides a current coding unit into a plurality of coding units, at least one of block shape information and split shape information may be used to determine a coding unit of a predetermined position among a plurality of coding units.
- the image decoding apparatus 100 may obtain at least one of block shape information and split shape information from a sample at a predetermined position included in a coding unit, and the image decoding apparatus 100 may divide the current coding unit.
- the generated plurality of coding units may be divided using at least one of split shape information and block shape information obtained from a sample of a predetermined position included in each of the plurality of coding units.
- the coding unit may be recursively split using at least one of block shape information and split shape information obtained from a sample of a predetermined position included in each coding unit. Since the recursive division process of the coding unit has been described above with reference to FIG. 12, a detailed description thereof will be omitted.
- the image decoding apparatus 100 may determine at least one coding unit by dividing a current coding unit, and determine an order in which the at least one coding unit is decoded in a predetermined block (for example, the current coding unit). Can be determined according to
- FIG. 14 is a diagram illustrating an order in which a plurality of coding units are processed when the image decoding apparatus 100 determines a plurality of coding units by dividing a current coding unit.
- the image decoding apparatus 100 determines the second coding units 1410a and 1410b by dividing the first coding unit 1400 in the vertical direction according to the block shape information and the split shape information.
- the second coding units 1430a and 1430b may be determined by dividing the 1400 in the horizontal direction, or the second coding units 1450a, 1450b, 1450c and 1450d by dividing the first coding unit 1400 in the vertical and horizontal directions. Can be determined.
- the image decoding apparatus 100 may determine an order such that the second coding units 1410a and 1410b determined by dividing the first coding unit 1400 in the vertical direction are processed in the horizontal direction 1410c. .
- the image decoding apparatus 100 may determine the processing order of the second coding units 1430a and 1430b determined by dividing the first coding unit 1400 in the horizontal direction, in the vertical direction 1430c.
- the image decoding apparatus 100 processes the coding units for positioning the second coding units 1450a, 1450b, 1450c, and 1450d determined by dividing the first coding unit 1400 in the vertical direction and the horizontal direction, in one row.
- the coding units positioned in the next row may be determined according to a predetermined order (for example, raster scan order or z scan order 1450e).
- the image decoding apparatus 100 may recursively split coding units.
- the image decoding apparatus 100 may determine a plurality of coding units 1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, and 1450d by dividing the first coding unit 1400.
- Each of the determined coding units 1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, and 1450d may be recursively divided.
- the method of dividing the plurality of coding units 1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, and 1450d may correspond to a method of dividing the first coding unit 1400. Accordingly, the plurality of coding units 1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, and 1450d may be independently divided into a plurality of coding units. Referring to FIG. 14, the image decoding apparatus 100 may determine the second coding units 1410a and 1410b by dividing the first coding unit 1400 in the vertical direction, and further, respectively, the second coding units 1410a and 1410b. It can be decided to split independently or not.
- the image decoding apparatus 100 may divide the second coding unit 1410a on the left side into horizontal units and divide the second coding unit 1410a into third coding units 1420a and 1420b, and the second coding unit 1410b on the right side. ) May not be divided.
- the processing order of coding units may be determined based on a split process of the coding units.
- the processing order of the divided coding units may be determined based on the processing order of the coding units immediately before being split.
- the image decoding apparatus 100 may independently determine the order in which the third coding units 1420a and 1420b determined by splitting the second coding unit 1410a on the left side from the second coding unit 1410b on the right side. Since the second coding unit 1410a on the left is divided in the horizontal direction to determine the third coding units 1420a and 1420b, the third coding units 1420a and 1420b may be processed in the vertical direction 1420c.
- the third coding unit included in the second coding unit 1410a on the left side corresponds to the horizontal direction 1410c
- the right coding unit 1410b may be processed.
- FIG. 15 illustrates a process of determining that a current coding unit is divided into an odd number of coding units when the image decoding apparatus 100 cannot process the coding units in a predetermined order, according to an embodiment.
- the image decoding apparatus 100 may determine that the current coding unit is split into odd coding units based on the obtained block shape information and the split shape information.
- a first coding unit 1500 having a square shape may be divided into second coding units 1510a and 1510b having a non-square shape, and each of the second coding units 1510a and 1510b may be independently formed.
- the image decoding apparatus 100 may determine a plurality of third coding units 1520a and 1520b by dividing the left coding unit 1510a in the horizontal direction among the second coding units, and may include the right coding unit 1510b. ) May be divided into an odd number of third coding units 1520c, 1520d, and 1520e.
- the image decoding apparatus 100 determines whether the third coding units 1520a, 1520b, 1520c, 1520d, and 1520e may be processed in a predetermined order to determine whether there are oddly divided coding units. You can decide. Referring to FIG. 15, the image decoding apparatus 100 may recursively divide a first coding unit 1500 to determine third coding units 1520a, 1520b, 1520c, 1520d, and 1520e.
- the image decoding apparatus 100 may include a first coding unit 1500, a second coding unit 1510a and 1510b, or a third coding unit 1520a, 1520b, 1520c, based on at least one of block shape information and split shape information.
- the order in which the plurality of coding units included in the first coding unit 1500 are processed may be a predetermined order (for example, a z-scan order 1530), and the image decoding apparatus ( 100 may determine whether the third coding unit 1520c, 1520d, and 1520e determined by splitting the right second coding unit 1510b into an odd number satisfies a condition in which the right coding unit 1510b is processed in the predetermined order.
- the image decoding apparatus 100 may satisfy a condition that the third coding units 1520a, 1520b, 1520c, 1520d, and 1520e included in the first coding unit 1500 may be processed in a predetermined order. And whether the at least one of the width and the height of the second coding unit 1510a, 1510b is divided in half according to the boundary of the third coding unit 1520a, 1520b, 1520c, 1520d, or 1520e.
- the third coding units 1520a and 1520b which are determined by dividing the height of the left second coding unit 1510a by the non-square form in half, satisfy the condition, but the right second coding unit 1510b is 3.
- the third coding units 1520c, 1520d, and 1520e determined by dividing into two coding units may be determined not to satisfy the condition, and the image decoding apparatus 100 may determine that the scan sequence is disconnected in the case of dissatisfaction with the condition, and the right second coding unit 1510b may be determined based on the determination result. It may be determined to be divided into an odd number of coding units.
- the image decoding apparatus 100 when the image decoding apparatus 100 is divided into an odd number of coding units, the image decoding apparatus 100 may set a predetermined limit on a coding unit of a predetermined position among the divided coding units. Since the above has been described through the embodiments, a detailed description thereof will be omitted.
- the image decoding apparatus 100 may divide the first coding unit 1600 based on at least one of the block shape information and the split shape information obtained through the receiver 210.
- the first coding unit 1600 having a square shape may be divided into coding units having four square shapes, or may be divided into a plurality of coding units having a non-square shape.
- the image decoding apparatus 100 may determine the first coding unit.
- the image decoding apparatus 100 may form a square first coding unit 1600.
- the image decoding apparatus 100 may process the second coding units 1610a, 1610b, 1610c, 1620a, 1620b, and 1620c included in the first coding unit 1600 in a predetermined order.
- the condition is whether the at least one of the width and height of the first coding unit 1600 is divided in half according to the boundary of the second coding unit (1610a, 1610b, 1610c, 1620a, 1620b, 1620c). It is related to whether or not.
- a boundary between second coding units 1610a, 1610b, and 1610c which is determined by dividing a square first coding unit 1600 in a vertical direction, divides the width of the first coding unit 1600 in half.
- the first coding unit 1600 may be determined to not satisfy a condition that may be processed in a predetermined order.
- the boundary of the second coding units 1620a, 1620b, and 1620c which is determined by dividing the first coding unit 1600 having a square shape in the horizontal direction, does not divide the width of the first coding unit 1600 in half,
- the one coding unit 1600 may be determined as not satisfying a condition that may be processed in a predetermined order.
- the image decoding apparatus 100 may determine that such a condition is not satisfied as disconnection of the scan order, and determine that the first coding unit 1600 is divided into an odd number of coding units based on the determination result.
- the image decoding apparatus 100 when the image decoding apparatus 100 is divided into an odd number of coding units, the image decoding apparatus 100 may set a predetermined limit on a coding unit of a predetermined position among the divided coding units. Since the above has been described through the embodiments, a detailed description thereof will be omitted.
- the image decoding apparatus 100 may determine various coding units by dividing the first coding unit.
- the image decoding apparatus 100 may split a first coding unit 1600 having a square shape and a first coding unit 1630 or 1650 having a non-square shape into various coding units. .
- FIG. 17 illustrates that the second coding unit is split when the second coding unit having a non-square shape determined by splitting the first coding unit 1700 according to an embodiment satisfies a predetermined condition. It shows that the form that can be limited.
- the image decoding apparatus 100 may determine a non-square type first coding unit 1700 having a square shape based on at least one of block shape information and segmentation shape information acquired through the receiver 210. It may be determined by dividing into two coding units 1710a, 1710b, 1720a, and 1720b. The second coding units 1710a, 1710b, 1720a, and 1720b may be split independently. Accordingly, the image decoding apparatus 100 determines whether to split or not split into a plurality of coding units based on at least one of block shape information and split shape information associated with each of the second coding units 1710a, 1710b, 1720a, and 1720b. Can be.
- the image decoding apparatus 100 divides the left second coding unit 1710a having a non-square shape in a horizontal direction, determined by dividing the first coding unit 1700 in a vertical direction, and then converts the third coding unit ( 1712a, 1712b) can be determined.
- the right second coding unit 1710b may have the same horizontal direction as the direction in which the left second coding unit 1710a is divided. It can be limited to not be divided into.
- the right second coding unit 1710b is divided in the same direction and the third coding units 1714a and 1714b are determined, the left second coding unit 1710a and the right second coding unit 1710b are respectively horizontally aligned.
- the third coding units 1712a, 1712b, 1714a, and 1714b may be determined by being split independently. However, this means that the image decoding apparatus 100 divides the first coding unit 1700 into four square second coding units 1730a, 1730b, 1730c, and 1730d based on at least one of the block shape information and the split shape information. This is the same result as the above, which may be inefficient in terms of image decoding.
- the image decoding apparatus 100 divides a second coding unit 1720a or 1720b of a non-square shape, determined by dividing the first coding unit 11300 in a horizontal direction, into a vertical direction, and then performs a third coding unit. (1722a, 1722b, 1724a, 1724b) can be determined.
- a third coding unit (1722a, 1722b, 1724a, 1724b)
- the image decoding apparatus 100 divides one of the second coding units (for example, the upper second coding unit 1720a) in the vertical direction
- another image coding unit for example, the lower end
- the coding unit 1720b may restrict the upper second coding unit 1720a from being split in the vertical direction in the same direction as the split direction.
- FIG. 18 illustrates a process of splitting a coding unit having a square shape by the image decoding apparatus 100 when the split shape information cannot be divided into four square coding units.
- the image decoding apparatus 100 divides the first coding unit 1800 based on at least one of the block shape information and the split shape information to divide the second coding units 1810a, 1810b, 1820a, 1820b, and the like. You can decide.
- the split type information may include information about various types in which a coding unit may be split, but the information on various types may not include information for splitting into four coding units having a square shape.
- the image decoding apparatus 100 may not divide the square first coding unit 1800 into four square second coding units 1830a, 1830b, 1830c, and 1830d.
- the image decoding apparatus 100 may determine the non-square second coding units 1810a, 1810b, 1820a, 1820b, and the like based on the split shape information.
- the image decoding apparatus 100 may independently split second non-square second coding units 1810a, 1810b, 1820a, 1820b, and the like.
- Each of the second coding units 1810a, 1810b, 1820a, 1820b, etc. may be divided in a predetermined order through a recursive method, which is based on at least one of the block shape information and the split shape information 1800. ) May be a division method corresponding to the division method.
- the image decoding apparatus 100 may determine the third coding units 1812a and 1812b having a square shape by dividing the left second coding unit 1810a in the horizontal direction, and the right second coding unit 1810b The third coding units 1814a and 1814b having a square shape may be determined by being split in the horizontal direction. Furthermore, the image decoding apparatus 100 may divide the left second coding unit 1810a and the right second coding unit 1810b in the horizontal direction to determine the third coding units 1816a, 1816b, 1816c, and 1816d having a square shape. have. In this case, the coding unit may be determined in the same form as that in which the first coding unit 1800 is divided into four second coding units 1830a, 1830b, 1830c, and 1830d.
- the image decoding apparatus 100 may determine the third coding units 1822a and 1822b having a square shape by dividing the upper second coding unit 1820a in the vertical direction, and the lower second coding unit 1820b. ) May be divided in a vertical direction to determine third coding units 1824a and 1824b having a square shape. Furthermore, the image decoding apparatus 100 may divide the upper second coding unit 1820a and the lower second coding unit 1820b in the vertical direction to determine the third coding units 1822a, 1822b, 1824a, and 1824b having a square shape. have. In this case, the coding unit may be determined in the same form as that in which the first coding unit 1800 is divided into four second coding units 1830a, 1830b, 1830c, and 1830d.
- FIG. 19 illustrates that a processing order between a plurality of coding units may vary according to a splitting process of coding units, according to an embodiment.
- the image decoding apparatus 100 may divide the first coding unit 1900 based on the block shape information and the split shape information.
- the image decoding apparatus 100 may determine the first coding unit 1900. ) May be determined to determine a second coding unit (eg, 1910a, 1910b, 1920a, 1920b, 1930a, 1930b, 1930c, 1930d, etc.).
- a second coding unit eg, 1910a, 1910b, 1920a, 1920b, 1930a, 1930b, 1930c, 1930d, etc.
- non-square-type second coding units 1910a, 1910b, 1920a, and 1920b which are determined by dividing the first coding unit 1900 only in the horizontal direction or the vertical direction, respectively, may include block shape information and split shape information for each. It can be divided independently based on.
- the image decoding apparatus 100 divides the second coding units 1910a and 1910b generated by splitting the first coding unit 1900 in the vertical direction, respectively, in the horizontal direction, and then uses the third coding unit 1916a, 1916b, 1916c and 1916d, and the second coding units 1920a and 1920b generated by dividing the first coding unit 1900 in the horizontal direction are divided in the horizontal direction, respectively, and the third coding units 1926a, 1926b and 1926c. 1926d). Since the splitting process of the second coding units 1910a, 1910b, 1920a, and 1920b has been described above with reference to FIG. 17, a detailed description thereof will be omitted.
- the image decoding apparatus 100 may process coding units in a predetermined order. Features of the processing of coding units according to a predetermined order have been described above with reference to FIG. 14, and thus detailed descriptions thereof will be omitted. Referring to FIG. 19, the image decoding apparatus 100 splits a first coding unit 1900 having a square shape to form three square third coding units 1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, and 1926d. ) Can be determined.
- the image decoding apparatus 100 processes the processing sequence of the third coding units 1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, and 1926d according to a form in which the first coding unit 1900 is divided. You can decide.
- the image decoding apparatus 100 determines the third coding units 1916a, 1916b, 1916c, and 1916d by dividing the second coding units 1910a and 1910b generated by dividing in the vertical direction in the horizontal direction, respectively.
- the image decoding apparatus 100 may first process the third coding units 1916a and 1916b included in the left second coding unit 1910a in the vertical direction, and then include the right second coding unit 1910b.
- the third coding units 1916a, 1916b, 1916c, and 1916d may be processed according to an order 1917 of processing the third coding units 1916c and 1916d in the vertical direction.
- the image decoding apparatus 100 determines the third coding units 1926a, 1926b, 1926c, and 1926d by dividing the second coding units 1920a and 1920b generated by splitting in the horizontal direction in the vertical direction.
- the image decoding apparatus 100 may first process the third coding units 1926a and 1926b included in the upper second coding unit 1920a in the horizontal direction, and then include the lower coding unit 1920b.
- the third coding units 1926a, 1926b, 1926c, and 1926d may be processed according to an order 1927 of processing the third coding units 1926c and 1926d in the horizontal direction.
- second coding units 1910a, 1910b, 1920a, and 1920b may be divided, respectively, and square third coding units 1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, and 1926d may be determined. have.
- the second coding units 1910a and 1910b determined by dividing in the vertical direction and the second coding units 1920a and 1920b determined by dividing in the horizontal direction are divided into different forms, but are determined after the third coding unit 1916a.
- the first coding unit 1900 is divided into coding units having the same type.
- the apparatus 100 for decoding an image recursively splits a coding unit through a different process based on at least one of block shape information and split shape information, and as a result, even if the coding units having the same shape are determined, the plurality of pictures determined in the same shape are determined. Coding units may be processed in different orders.
- 20 is a diagram illustrating a process of determining a depth of a coding unit as a shape and a size of a coding unit change when a coding unit is recursively divided and a plurality of coding units are determined according to an embodiment.
- the image decoding apparatus 100 may determine the depth of a coding unit according to a predetermined criterion.
- the predetermined criterion may be the length of the long side of the coding unit.
- the depth of the current coding unit is greater than the depth of the coding unit before the split. It can be determined that the depth is increased by n.
- a coding unit having an increased depth is expressed as a coding unit of a lower depth.
- the image decoding apparatus 100 may have a square shape based on block shape information indicating a square shape (for example, block shape information may indicate '0: SQUARE').
- the first coding unit 2000 may be divided to determine a second coding unit 2002, a third coding unit 2004, and the like of a lower depth. If the size of the square first coding unit 2000 is 2Nx2N, the second coding unit 2002 determined by dividing the width and height of the first coding unit 2000 by 1/21 times may have a size of NxN. have. Furthermore, the third coding unit 2004 determined by dividing the width and the height of the second coding unit 2002 into half sizes may have a size of N / 2 ⁇ N / 2.
- the width and height of the third coding unit 2004 correspond to 1/22 times the first coding unit 2000.
- the depth of the first coding unit 2000 is D
- the depth of the second coding unit 2002 that is 1/21 times the width and the height of the first coding unit 2000 may be D + 1
- the depth of the third coding unit 2004 that is 1/22 times the width and the height of 2000 may be D + 2.
- block shape information indicating a non-square shape (e.g., block shape information indicates that the height is a non-square longer than the width '1: NS_VER' or the width is a non-square longer than the height).
- 2 may indicate NS_HOR ', and the image decoding apparatus 100 may divide the first coding unit 2010 or 2020 having a non-square shape into the second coding unit 2012 or 2022 of the lower depth.
- the third coding unit 2014 or 2024 may be determined.
- the image decoding apparatus 100 may determine a second coding unit (for example, 2002, 2012, 2022, etc.) by dividing at least one of a width and a height of the Nx2N-sized first coding unit 2010. That is, the image decoding apparatus 100 may divide the first coding unit 2010 in the horizontal direction to determine the second coding unit 2002 having the NxN size or the second coding unit 2022 having the NxN / 2 size.
- the second coding unit 2012 having a size of N / 2 ⁇ N may be determined by splitting in the horizontal direction and the vertical direction.
- the image decoding apparatus 100 determines at least one of a width and a height of a 2N ⁇ N sized first coding unit 2020 to determine a second coding unit (eg, 2002, 2012, 2022, etc.). It may be. That is, the image decoding apparatus 100 may divide the first coding unit 2020 in the vertical direction to determine a second coding unit 2002 having an NxN size or a second coding unit 2012 having an N / 2xN size.
- the second coding unit 2022 having the size of NxN / 2 may be determined by splitting in the horizontal direction and the vertical direction.
- the image decoding apparatus 100 determines at least one of a width and a height of the NxN-sized second coding unit 2002 to determine a third coding unit (eg, 2004, 2014, 2024, etc.). It may be. That is, the image decoding apparatus 100 determines the third coding unit 2004 having a size of N / 2xN / 2 by dividing the second coding unit 2002 in the vertical direction and the horizontal direction, or makes the N / 22xN / 2 size product. The third coding unit 2014 may be determined or the third coding unit 2024 having a size of N / 2 ⁇ N / 22 may be determined.
- a third coding unit eg, 2004, 2014, 2024, etc.
- the image decoding apparatus 100 splits at least one of a width and a height of the N / 2 ⁇ N sized second coding unit 2012 to a third coding unit (eg, 2004, 2014, 2024, etc.). May be determined. That is, the image decoding apparatus 100 divides the second coding unit 2012 in the horizontal direction to form a third coding unit 2004 having a size of N / 2 ⁇ N / 2 or a third coding unit 2024 having a size of N / 2xN / 22. ) May be determined or divided into vertical and horizontal directions to determine a third coding unit 2014 having a size of N / 22 ⁇ N / 2.
- the image decoding apparatus 100 splits at least one of a width and a height of the NxN / 2 sized second coding unit 2014 to a third coding unit (eg, 2004, 2014, 2024, etc.). May be determined. That is, the image decoding apparatus 100 divides the second coding unit 2012 in the vertical direction to form a third coding unit 2004 having a size of N / 2 ⁇ N / 2 or a third coding unit having a size of N / 22xN / 2 (2014). ) May be determined or divided in the vertical direction and the horizontal direction to determine the third coding unit 2024 of size N / 2 ⁇ N / 22.
- a third coding unit eg, 2004, 2014, 2024, etc.
- the image decoding apparatus 100 may divide a square coding unit (for example, 2000, 2002, 2004) in a horizontal direction or a vertical direction.
- the first coding unit 2000 having a size of 2Nx2N is divided in the vertical direction to determine the first coding unit 2010 having the size of Nx2N, or the first coding unit 2020 having a size of 2NxN is determined by splitting in the horizontal direction.
- the depth of the coding unit determined by splitting the first coding unit 2000, 2002 or 2004 having a size of 2N ⁇ 2N into the horizontal or vertical direction is determined. May be the same as the depth of the first coding unit 2000, 2002, or 2004.
- the width and height of the third coding unit 2014 or 2024 may correspond to 1/22 times the first coding unit 2010 or 2020.
- the depth of the first coding unit 2010 or 2020 is D
- the depth of the second coding unit 2012 or 2014 that is 1/2 the width and height of the first coding unit 2010 or 2020 may be D + 1.
- the depth of the third coding unit 2014 or 2024 that is 1/22 times the width and the height of the first coding unit 2010 or 2020 may be D + 2.
- FIG. 21 illustrates a depth index and a part index (PID) for classifying coding units, which may be determined according to shapes and sizes of coding units, according to an embodiment.
- PID part index
- the image decoding apparatus 100 may determine a second coding unit having various forms by dividing the first coding unit 2100 having a square shape. Referring to FIG. 21, the image decoding apparatus 100 divides the first coding unit 2100 in at least one of a vertical direction and a horizontal direction according to the split type information to thereby obtain a second coding unit 2102a, 2102b, 2104a,. 2104b, 2106a, 2106b, 2106c, 2106d). That is, the image decoding apparatus 100 may determine the second coding units 2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, and 2106d based on the split shape information about the first coding unit 2100.
- the second coding units 2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, and 2106d which are determined according to split shape information about the first coding unit 2100 having a square shape, have a long side length. Depth can be determined based on this. For example, since the length of one side of the first coding unit 2100 having a square shape and the length of the long side of the second coding units 2102a, 2102b, 2104a, and 2104b having a non-square shape are the same, the first coding unit ( 2100 and the depths of the non-square second coding units 2102a, 2102b, 2104a, and 2104b may be regarded as D.
- the image decoding apparatus 100 divides the first coding unit 2100 into four square second coding units 2106a, 2106b, 2106c, and 2106d based on the split shape information
- the image having the square shape may be used. Since the length of one side of the two coding units 2106a, 2106b, 2106c, and 2106d is 1/2 times the length of one side of the first coding unit 2100, the depths of the second coding units 2106a, 2106b, 2106c, and 2106d are determined. May be a depth of D + 1 that is one depth lower than D, which is a depth of the first coding unit 2100.
- the image decoding apparatus 100 divides a first coding unit 2110 having a height greater than a width in a horizontal direction according to split shape information, thereby performing a plurality of second coding units 2112a, 2112b, 2114a, 2114b and 2114c).
- the image decoding apparatus 100 divides a first coding unit 2120 having a shape having a width greater than a height in a vertical direction according to split shape information, and thus includes a plurality of second coding units 2122a, 2122b, 2124a, 2124b, 2124c).
- the second coding units 2112a, 2112b, 2114a, 2114b, 2116a, 2116b, 2116c, and 2116d that are determined according to split shape information about the first coding unit 2110 or 2120 having a non-square shape may be used. Depth may be determined based on the length of the long side. For example, since the length of one side of the second coding units 2112a and 2112b having a square shape is 1/2 times the length of one side of the first coding unit 2110 having a non-square shape having a height greater than the width, the square is square.
- the depths of the second coding units 2102a, 2102b, 2104a, and 2104b of the form are D + 1, which is one depth lower than the depth D of the first coding unit 2110 of the non-square form.
- the image decoding apparatus 100 may divide the non-square first coding unit 2110 into odd second coding units 2114a, 2114b, and 2114c based on the split shape information.
- the odd numbered second coding units 2114a, 2114b, and 2114c may include non-square second coding units 2114a and 2114c and square shape second coding units 2114b.
- the length of the long side of the second coding units 2114a and 2114c of the non-square shape and the length of one side of the second coding unit 2114b of the square shape is 1 / time of the length of one side of the first coding unit 2110.
- the depths of the second coding units 2114a, 2114b, and 2114c may be a depth of D + 1 that is one depth lower than the depth D of the first coding unit 2110.
- the image decoding apparatus 100 corresponds to the above-described method of determining depths of coding units associated with the first coding unit 2110 and is related to the first coding unit 2120 having a non-square shape having a width greater than the height. Depth of coding units may be determined.
- the image decoding apparatus 100 may determine the size ratio between the coding units.
- the index can be determined based on this.
- a coding unit 2114b positioned at the center of odd-numbered split coding units 2114a, 2114b, and 2114c may have the same width as the other coding units 2114a and 2114c but have different heights. It may be twice the height of the fields 2114a and 2114c. That is, in this case, the coding unit 2114b positioned in the center may include two of the other coding units 2114a and 2114c.
- the image decoding apparatus 100 may determine whether odd-numbered split coding units are not the same size based on whether there is a discontinuity of an index for distinguishing between the divided coding units.
- the image decoding apparatus 100 may determine whether the image decoding apparatus 100 is divided into a specific division type based on a value of an index for dividing the plurality of coding units determined by dividing from the current coding unit. Referring to FIG. 21, the image decoding apparatus 100 determines an even number of coding units 2112a and 2112b by dividing a first coding unit 2110 having a height greater than a width, or an odd number of coding units 2114a and 2114b. , 2114c). The image decoding apparatus 100 may use an index (PID) indicating each coding unit to distinguish each of the plurality of coding units. According to an embodiment, the PID may be obtained from a sample (eg, an upper left sample) at a predetermined position of each coding unit.
- a sample eg, an upper left sample
- the image decoding apparatus 100 may determine a coding unit of a predetermined position among coding units determined by splitting by using an index for dividing coding units. According to an embodiment, when the split type information of the first coding unit 2110 having a height greater than the width is divided into three coding units, the image decoding apparatus 100 may decode the first coding unit 2110. It may be divided into three coding units 2114a, 2114b, and 2114c. The image decoding apparatus 100 may allocate an index for each of three coding units 2114a, 2114b, and 2114c. The image decoding apparatus 100 may compare the indices of the respective coding units to determine the coding unit among the oddly divided coding units.
- the image decoding apparatus 100 encodes a coding unit 2114b having an index corresponding to a center value among the indices based on the indexes of the coding units, and encodes the center position among the coding units determined by splitting the first coding unit 2110. It can be determined as a unit. According to an embodiment, when determining the indexes for distinguishing the divided coding units, the image decoding apparatus 100 may determine the indexes based on the size ratio between the coding units when the coding units are not the same size. . Referring to FIG. 21, a coding unit 2114b generated by dividing a first coding unit 2110 may include coding units 2114a and 2114c having the same width but different heights as other coding units 2114a and 2114c.
- the image decoding apparatus 100 may determine that the image decoding apparatus 100 is divided into a plurality of coding units including a coding unit having a different size from other coding units. In this case, when the split form information is divided into odd coding units, the image decoding apparatus 100 may have a shape different from a coding unit having a different coding unit (for example, a middle coding unit) at a predetermined position among the odd coding units.
- the current coding unit can be divided by.
- the image decoding apparatus 100 may determine a coding unit having a different size by using an index (PID) for the coding unit.
- PID index
- the above-described index, the size or position of the coding unit of the predetermined position to be determined are specific to explain an embodiment and should not be construed as being limited thereto. Various indexes and positions and sizes of the coding unit may be used. Should be interpreted.
- the image decoding apparatus 100 may use a predetermined data unit at which recursive division of coding units begins.
- FIG. 22 illustrates that a plurality of coding units are determined according to a plurality of predetermined data units included in a picture according to an embodiment.
- the predetermined data unit may be defined as a data unit in which a coding unit starts to be recursively divided using at least one of block shape information and split shape information. That is, it may correspond to the coding unit of the highest depth used in the process of determining a plurality of coding units for dividing the current picture.
- a predetermined data unit will be referred to as a reference data unit.
- the reference data unit may represent a predetermined size and shape.
- the reference coding unit may include samples of M ⁇ N. M and N may be the same as each other, and may be an integer represented by a multiplier of two. That is, the reference data unit may represent a square or non-square shape, and then may be divided into integer coding units.
- the image decoding apparatus 100 may divide the current picture into a plurality of reference data units. According to an embodiment, the image decoding apparatus 100 may divide a plurality of reference data units for dividing a current picture by using split information for each reference data unit. The division process of the reference data unit may correspond to the division process using a quad-tree structure.
- the image decoding apparatus 100 may predetermine the minimum size of the reference data unit included in the current picture. Accordingly, the image decoding apparatus 100 may determine a reference data unit having various sizes having a minimum size or more, and determine at least one coding unit by using block shape information and split shape information based on the determined reference data unit. You can decide.
- the image decoding apparatus 100 may use a reference coding unit 2200 having a square shape, or may use a reference coding unit 2202 of a non-square shape.
- the shape and size of the reference coding unit may include various data units (eg, a sequence, a picture, a slice, and a slice segment) that may include at least one reference coding unit. slice segment, maximum coding unit, etc.).
- the receiver 210 of the image decoding apparatus 100 may obtain at least one of information about the shape of the reference coding unit and information about the size of the reference coding unit from the bitstream for each of the various data units. .
- a process of determining at least one coding unit included in the reference coding unit 2200 having a square shape has been described above by splitting the current coding unit 300 of FIG. 10, and refers to the reference coding unit 2200 having a non-square shape. Since the process of determining at least one coding unit included in the above is described above through the process of splitting the current coding unit 1100 or 1150 of FIG. 11, a detailed description thereof will be omitted.
- the image decoding apparatus 100 may determine the size and shape of the reference coding unit in order to determine the size and shape of the reference coding unit according to some data unit predetermined based on a predetermined condition.
- a predetermined condition for example, a data unit having a size less than or equal to a slice
- the various data units eg, sequence, picture, slice, slice segment, maximum coding unit, etc.
- an index for identifying the size and shape of the reference coding unit may be obtained.
- the image decoding apparatus 100 may determine the size and shape of the reference data unit for each data unit satisfying the predetermined condition by using the index.
- the use efficiency of the bitstream may not be good, and thus the shape of the reference coding unit
- only the index may be obtained and used.
- at least one of the size and shape of the reference coding unit corresponding to the index indicating the size and shape of the reference coding unit may be predetermined.
- the image decoding apparatus 100 selects at least one of the predetermined size and shape of the reference coding unit according to the index, thereby selecting at least one of the size and shape of the reference coding unit included in the data unit that is the reference for obtaining the index. You can decide.
- the image decoding apparatus 100 may use at least one reference coding unit included in one maximum coding unit. That is, at least one reference coding unit may be included in the maximum coding unit for dividing an image, and the coding unit may be determined through a recursive division process of each reference coding unit. According to an embodiment, at least one of the width and the height of the maximum coding unit may correspond to an integer multiple of at least one of the width and the height of the reference coding unit. According to an embodiment, the size of the reference coding unit may be a size obtained by dividing the maximum coding unit n times according to a quad tree structure.
- the image decoding apparatus 100 may determine the reference coding unit by dividing the maximum coding unit n times according to the quad tree structure, and according to various embodiments, the reference coding unit may include at least one of block shape information and split shape information. Can be divided based on.
- FIG. 23 is a diagram of a processing block serving as a reference for determining a determination order of a reference coding unit included in a picture 2300, according to an exemplary embodiment.
- the image decoding apparatus 100 may determine at least one processing block for dividing a picture.
- the processing block is a data unit including at least one reference coding unit for dividing an image, and the at least one reference coding unit included in the processing block may be determined in a specific order. That is, the determination order of at least one reference coding unit determined in each processing block may correspond to one of various types of order in which the reference coding unit may be determined, and the reference coding unit determination order determined in each processing block. May be different per processing block.
- the order of determination of the reference coding units determined for each processing block is raster scan, Z-scan, N-scan, up-right diagonal scan, and horizontal scan. It may be one of various orders such as a horizontal scan, a vertical scan, etc., but the order that may be determined should not be construed as being limited to the scan orders.
- the image decoding apparatus 100 may determine the size of at least one processing block included in the image by obtaining information about the size of the processing block.
- the image decoding apparatus 100 may determine the size of at least one processing block included in the image by obtaining information about the size of the processing block from the bitstream.
- the size of such a processing block may be a predetermined size of a data unit indicated by the information about the size of the processing block.
- the receiver 210 of the image decoding apparatus 100 may obtain information about a size of a processing block from a bitstream for each specific data unit.
- the information about the size of the processing block may be obtained from the bitstream in data units such as an image, a sequence, a picture, a slice, and a slice segment. That is, the receiver 210 may obtain information about the size of the processing block from the bitstream for each of the various data units, and the image decoding apparatus 100 may divide the picture using at least the information about the size of the acquired processing block.
- the size of one processing block may be determined, and the size of the processing block may be an integer multiple of the reference coding unit.
- the image decoding apparatus 100 may determine the sizes of the processing blocks 2302 and 2312 included in the picture 2300. For example, the image decoding apparatus 100 may determine the size of the processing block based on the information about the size of the processing block obtained from the bitstream. Referring to FIG. 23, the apparatus 100 for decoding an image according to an embodiment may include a horizontal size of the processing blocks 2302 and 2312 as four times the horizontal size of the reference coding unit and four times the vertical size of the reference coding unit. You can decide. The image decoding apparatus 100 may determine an order in which at least one reference coding unit is determined in at least one processing block.
- the image decoding apparatus 100 may determine each processing block 2302 and 2312 included in the picture 2300 based on the size of the processing block, and include the processing block 2302 and 2312 in the processing block 2302 and 2312.
- a determination order of at least one reference coding unit may be determined.
- the determination of the reference coding unit may include the determination of the size of the reference coding unit.
- the image decoding apparatus 100 may obtain information about a determination order of at least one reference coding unit included in at least one processing block from a bitstream, and based on the obtained determination order The order in which at least one reference coding unit is determined may be determined.
- the information about the determination order may be defined in an order or direction in which reference coding units are determined in the processing block. That is, the order in which the reference coding units are determined may be independently determined for each processing block.
- the image decoding apparatus 100 may obtain information about a determination order of a reference coding unit from a bitstream for each specific data unit.
- the receiver 210 may obtain information about a determination order of a reference coding unit from a bitstream for each data unit such as an image, a sequence, a picture, a slice, a slice segment, and a processing block. Since the information about the determination order of the reference coding unit indicates the determination order of the reference coding unit in the processing block, the information about the determination order may be obtained for each specific data unit including an integer number of processing blocks.
- the image decoding apparatus 100 may determine at least one reference coding unit based on the order determined according to the embodiment.
- the receiver 210 may obtain information about a reference coding unit determination order from the bitstream as information related to the processing blocks 2302 and 2312, and the image decoding apparatus 100 may process the processing block ( An order of determining at least one reference coding unit included in 2302 and 2312 may be determined, and at least one reference coding unit included in the picture 2300 may be determined according to the determination order of the coding unit.
- the image decoding apparatus 100 may determine determination orders 2304 and 2314 of at least one reference coding unit associated with each processing block 2302 and 2312. For example, when information about the determination order of the reference coding unit is obtained for each processing block, the reference coding unit determination order associated with each processing block 2302 and 2312 may be different for each processing block.
- the reference coding unit included in the processing block 2302 may be determined according to the raster scan order.
- the reference coding unit determination order 2314 associated with the other processing block 2312 is the reverse order of the raster scan order
- the reference coding units included in the processing block 2312 may be determined according to the reverse order of the raster scan order.
- the image decoding apparatus 100 may decode at least one determined reference coding unit according to an embodiment.
- the image decoding apparatus 100 may decode an image based on the reference coding unit determined through the above-described embodiment.
- the method of decoding the reference coding unit may include various methods of decoding an image.
- the image decoding apparatus 100 may obtain and use block shape information indicating a shape of a current coding unit or split shape information indicating a method of dividing a current coding unit from a bitstream.
- Block type information or split type information may be included in a bitstream associated with various data units.
- the image decoding apparatus 100 may include a sequence parameter set, a picture parameter set, a video parameter set, a slice header, and a slice segment header. block type information or segmentation type information included in a segment header) may be used.
- the image decoding apparatus 100 may obtain and use syntax corresponding to block type information or split type information from the bitstream from the bitstream for each maximum coding unit, reference coding unit, and processing block.
- the above-described embodiments of the present disclosure may be written as a program executable on a computer, and may be implemented in a general-purpose digital computer operating the program using a computer-readable recording medium.
- the computer-readable recording medium may include a storage medium such as a magnetic storage medium (eg, a ROM, a floppy disk, a hard disk, etc.) and an optical reading medium (eg, a CD-ROM, a DVD, etc.).
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하는 단계; 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행되는 경우, 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보에 기초하여 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하는 단계; 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하는 단계; 제1 예측 모드 및 복수의 제2 블록마다 비트스트림으로부터 획득되는 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여, 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하는 단계; 및 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 복호화 하는 단계를 포함하는 영상 복호화 방법 및 이러한 복호화 방법을 수행할 수 있는 영상 복호화 장치가 제공될 수 있다. 또한 영상 복호화 방법에 반대되거나 유사한 방법을 수행하기 위한 영상 부호화 방법; 및 영상 부호화 방법을 수행할 수 있는 영상 부호화 장치가 제공될 수 있다.
Description
일 실시예에 따른 방법 및 장치는 영상에 포함되는 다양한 데이터 단위를 이용하여, 영상을 부호화 또는 복호화 할 수 있다.
영상 데이터는 소정의 데이터 압축 표준, 예를 들면 MPEG(Moving Picture Expert Group) 표준에 따른 코덱에 의하여 부호화된 후 비트스트림의 형태로 기록매체에 저장되거나 통신 채널을 통해 전송된다.
고해상도 또는 고화질 영상 컨텐트를 재생, 저장할 수 있는 하드웨어의 개발 및 보급에 따라, 고해상도 또는 고화질 영상 컨텐트를 효과적으로 부호화 또는 복호화 하는 코덱(codec)의 필요성이 증대하고 있다. 부호화된 영상 컨텐트는 복호화됨으로써 재생될 수 있다. 최근에는 이러한 고해상도 또는 고화질 영상 컨텐트를 효과적으로 압축하기 위한 방법들이 실시되고 있다. 예를 들면, 부호화 하려는 영상을 임의적 방법으로 처리하는 과정을 통한 효율적 영상 압축 방법이 실시되고 있다. 나아가 영상의 적응적인 부호화 또는 복호화 과정을 수행하기 위하여, 영상을 분할하는 다양한 형태의 데이터 단위가 이용되고 있다.
영상의 부호화 또는 복호화 과정에서 이용되는 예측 블록에 기초한 인트라 측 과정에서 각각의 예측 블록을 기준으로 하나의 인트라 예측 모드가 결정되어 이용될 수 있으므로 부호화 또는 복호화 효율이 떨어질 수 있다.
일 실시예에 따른 영상을 복호화 하는 방법에 있어서, 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하는 단계, 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행되는 경우, 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보에 기초하여 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하는 단계, 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하는 단계, 제1 예측 모드 및 복수의 제2 블록마다 비트스트림으로부터 획득되는 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여, 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하는 단계 및 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 복호화 하는 단계를 포함하는 영상 복호화 방법이 제공될 수 있다.
일 실시예에 따른 영상을 복호화 하는 장치에 있어서 제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보를 비트스트림으로부터 획득하는 비트스트림 획득부 및 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하고, 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행될지를 결정하고, 현재 제1 블록에서 인트라 예측이 수행되는 경우, 제1 인트라 예측 모드 정보에 기초하여 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하고, 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하고, 제1 예측 모드 및복수의 제2 블록마다 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하고, 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 복호화 하는 복호화부를 포함하는 영상 복호화 장치가 제공될 수 있다.
일 실시예에 따른 영상을 부호화 하는 방법에 있어서 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하는 단계, 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행될지를 결정하는 단계, 현재 제1 블록에서 인트라 예측이 수행되는 경우, 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하는 단계, 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하는 단계, 제1 예측 모드에 기초하여 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하는 단계, 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 부호화하는 단계 및 부호화된 영상 데이터, 현재 제1 예측 모드를 나타내는 제1 인트라 예측 모드 정보, 제2 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 포함하는 비트스트림을 생성하는 단계를 포함하는 영상 부호화 방법이 제공될 수 있다.
일 실시예에 따라 임의의 블록에서 결정된 인트라 예측 모드를 이용하여, 임의의 블록에 포함되는 복수개의 서브 블록에서 수행되는 인트라 예측 모드가 각각 개별적으로 결정될 수 있다.
도 1a는 현재 제1 블록에 포함되는 복수개의 제2 블록에 대한 예측 모드를 현재 제1 블록의 예측 모드에 기초하여 결정할 수 있는 영상 복호화 장치에 대한 블록도를 도시한다.
도 1b는 현재 제1 블록에 포함되는 복수개의 제2 블록에 대한 예측 모드를 현재 제1 블록의 예측 모드에 기초하여 결정할 수 있는 영상 부호화 장치에 대한 블록도를 도시한다.
도 2a는 일 실시예에 따라 영상 복호화 장치가 현재 제1 블록의 예측 모드에 기초하여 복수개의 제2 블록에 대한 예측 모드를 결정하는 방법에 대한 흐름도를 도시한다.
도 2b는 일 실시예에 따라 영상 부호화 장치가 현재 제1 블록의 예측 모드에 기초하여 복수개의 제2 블록에 대한 예측 모드를 결정하는 방법에 대한 흐름도를 도시한다.
도 3a는 일 실시예에 따라 제1 블록의 인트라 예측 모드에 기초하여 복수의 제2 블록의 인트라 예측 모드가 결정되는 과정을 도시한다.
도 3b는 일 실시예에 따라 영상을 분할하는 비-정사각형 형태의 블록에 기초하여 예측 모드가 결정되는 과정을 도시한다.
도 3c는 일 실시예에 따라 제1 블록에 포함되는 제2 블록에서 인트라 예측 모드가 결정되는 과정을 구체적으로 도시한 것이다.
도 4a는 일 실시예에 따라 현재 제2 블록의 제2 예측 모드를 결정하기 위하여 제1 블록의 제1 예측 모드 및 이전 제2 블록의 제2 예측 모드에 기초하여 결정하는 과정을 나타내는 흐름도를 나타낸다.
도 4b는 일 실시예에 따라 현재 제2 블록의 제2 예측 모드를 결정하기 위하여 제1 블록의 제1 예측 모드 및 이전 제2 블록의 제2 예측 모드에 기초하여 결정하는 과정을 나타내는 흐름도를 나타낸다.
도 4c는 일 실시예에 따라 제1 예측 모드에 따른 예측 방향을 기준으로 현재 제2 블록의 인트라 예측 과정에서 이용될 수 있는 예측 방향을 결정하는 과정을 도시한다.
도 4d는 일 실시예에 따라 제1 예측 모드에 따른 예측 방향 및 이전 제2 블록의 예측 방향을 이용하여 현재 제2 블록의 인트라 예측 과정에서 이용될 수 있는 예측 방향을 결정하는 과정을 도시한다.
도 4e는 일 실시예에 따라 제1 블록의 예측 방향을 이용하여 각 제2 블록들에서 이용될 수 있는 기준 예측 방향을 결정하는 과정을 도시한다.
도 5a는 일 실시예에 따라 현재 제1 블록에서 방향성 인트라 예측이 수행되는지에 기초하여 제2 블록들의 제2 예측 모드가 결정되는 과정을 나타내는 흐름도이다.
도 5b는 일 실시예에 따라 현재 제1 블록에서 방향성 인트라 예측이 수행되는지에 기초하여 제2 블록들의 제2 예측 모드가 결정되는 과정을 나타내는 흐름도이다.
도 6은 일 실시예에 따라 제1 블록에서 분할된 제2 블록들의 행 또는 열에 기초하여 제2 예측 모드를 결정하는 과정을 도시한다.
도 7은 일 실시예에 따라 현재 제1 블록 또는 현재 제2 블록의 예측 모드를 결정하기 위하여, 주변의 예측 모드를 이용하는 과정을 도시한다.
도 8은 일 실시예에 따라 인트라 예측 모드에서 이용할 수 있는 다양한 예측 방향 및 인덱스를 도시한다.
도 9a는 일 실시예에 따라 제2 블록의 제2 예측 모드를 결정하는 과정을 수행할지 여부를 검토하여 예측을 수행하는 과정에 대한 흐름도를 도시한다.
도 9b는 일 실시예에 따라 제2 블록의 제2 예측 모드를 결정하는 과정을 수행할지 여부를 검토하여 예측을 수행하는 흐름도를 도시한다.
도 10은 일 실시예에 따라 현재 부호화 단위가 분할되어 적어도 하나의 부호화 단위가 결정되는 과정을 도시한다.
도 11은 일 실시예에 따라 비-정사각형의 형태인 부호화 단위가 분할되어 적어도 하나의 부호화 단위가 결정되는 과정을 도시한다.
도 12는 일 실시예에 따라 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 부호화 단위가 분할되는 과정을 도시한다.
도 13은 일 실시예에 따라 홀수개의 부호화 단위들 중 소정의 부호화 단위가 결정되는 방법을 도시한다.
도 14는 일 실시예에 따라 현재 부호화 단위가 분할되어 복수개의 부호화 단위들이 결정되는 경우, 복수개의 부호화 단위들이 처리되는 순서를 도시한다.
도 15는 일 실시예에 따라 소정의 순서로 부호화 단위가 처리될 수 없는 경우, 현재 부호화 단위가 홀수개의 부호화 단위로 분할되는 것으로 결정되는 과정을 도시한다.
도 16은 일 실시예에 따라 제1 부호화 단위가 분할되어 적어도 하나의 부호화 단위가 결정되는 과정을 도시한다.
도 17은 일 실시예에 따라 제1 부호화 단위가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위가 소정의 조건을 만족하는 경우, 제2 부호화 단위가 분할될 수 있는 형태가 제한되는 것을 도시한다.
도 18은 일 실시예에 따라 분할 형태 정보가 4개의 정사각형 형태의 부호화 단위로 분할하는 것을 나타낼 수 없는 경우, 정사각형 형태의 부호화 단위가 분할되는 과정을 도시한다
도 19는 일 실시예에 따라 복수개의 부호화 단위들 간의 처리 순서가 부호화 단위의 분할 과정에 따라 달라질 수 있음을 도시한 것이다.
도 20은 일 실시예에 따라 부호화 단위가 재귀적으로 분할되어 복수개의 부호화 단위가 결정되는 경우, 부호화 단위의 형태 및 크기가 변함에 따라 부호화 단위의 심도가 결정되는 과정을 도시한다.
도 21은 일 실시예에 따라 부호화 단위들의 형태 및 크기에 따라 결정될 수 있는 심도 및 부호화 단위 구분을 위한 인덱스(part index, 이하 PID)를 도시한다.
도 22는 일 실시예에 따라 픽쳐에 포함되는 복수개의 소정의 데이터 단위에 따라 복수개의 부호화 단위들이 결정된 것을 도시한다.
도 23은 일 실시예에 따라 픽쳐에 포함되는 기준 부호화 단위의 결정 순서를 결정하는 기준이 되는 프로세싱 블록을 도시한다.
일 실시예에 따라 영상을 복호화 하는 방법에 있어서, 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하는 단계; 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행되는 경우, 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보에 기초하여 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하는 단계; 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하는 단계; 제1 예측 모드 및 복수의 제2 블록마다 비트스트림으로부터 획득되는 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여, 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하는 단계; 및 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 복호화 하는 단계를 포함 하는 영상 복호화 방법이 제공될 수 있다.
일 실시예에 따라 제2 예측 모드를 결정하는 단계는 제2 인트라 예측 모드 정보를, 복수의 제2 블록 중 하나인 이전 제2 블록과 관련된 비트스트림으로부터 획득하는 단계; 및 이전 제2 블록과 관련된 제2 인트라 예측 모드 정보 및 제1 인트라 예측 모드 정보 중 적어도 하나에 기초하여, 인접하는 현재 제2 블록에 대한 제2 예측 모드를 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 현재 제2 블록에 대한 제2 예측 모드를 결정하는 단계는 제1 인트라 예측 모드 정보에 따라 결정되는 인트라 예측 방향 및 이전 제2 블록과 관련된 제2 인트라 예측 모드 정보에 따라 결정되는 인트라 예측 방향에 기초하여, 현재 제2 블록에서 이용되는 기준 인트라 예측 방향을 결정하는 단계; 및 현재 제2 블록과 관련하여 획득되는 제2 인트라 예측 모드 정보에 기초하여, 기준 인트라 예측 방향을 포함하는 복수의 인트라 예측 방향 중 하나를 이용하는 예측 모드를 현재 제2 블록에 대한 제2 예측 모드로서 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 현재 제2 블록에 대한 제2 예측 모드를 결정하는 단계는 현재 제2 블록이 복수의 제2 블록 중 마지막 제2 블록인 경우, 기준 인트라 예측 방향을 이용하는 예측 모드를 현재 제2 블록에 대한 제2 예측 모드로서 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 현재 제2 블록에서 제2 인트라 예측 모드 정보에 기초하여 결정될 수 있는 인트라 예측 모드들 간의 인덱스 값의 차이는 균일한 것일 수 있다.
일 실시예에 따라 현재 제2 블록에서 제2 인트라 예측 모드 정보에 기초하여 결정될 수 있는 인트라 예측 모드들 간의 인덱스 값의 차이는 불균일한 것일 수 있다.
일 실시예에 따라 제1 예측 모드를 결정하는 단계는 현재 제1 블록에 인접하는 주변 제1 블록과 관련된 비트스트림으로부터 획득된 제1 인트라 예측 모드 정보에 기초하여, 현재 제1 블록의 인트라 예측 모드를 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 제1 예측 모드를 결정하는 단계는 현재 제1 블록과 관련된 비트스트림으로부터 획득된 제1 인트라 예측 모드 정보에 기초하여 제1 예측 모드를 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 제2 예측 모드를 결정하는 단계는 제1 예측 모드 및 제2 예측 모드에 기초하여 인트라 예측을 수행할지를 나타내는 플래그를 비트스트림으로부터 획득하는 단계; 및 플래그가 제1 예측 모드 및 제2 예측 모드에 기초하여 인트라 예측을 수행할지를 나타내는 경우, 복수의 제2 블록마다 제2 인트라 예측 모드 정보를 비트스트림으로부터 획득하여 제2 예측 모드를 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 제2 예측 모드를 결정하는 단계는 제1 예측 모드가 방향성 인트라 예측 모드를 나타내는 경우, 제1 예측 모드와 관련된 인트라 예측 방향에 기초하여 복수의 제2 블록 중 동일한 행 또는 동일한 열에 위치하는 제2 블록들의 제2 예측 모드를 동일하게 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 복수의 제2 블록을 결정하는 단계는 제1 블록에 포함되는 비-정사각형의 형태의 복수의 제2 블록을 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 제1 블록은 부호화 단위일 수 있고, 제2 블록은 변환 단위일 수 있다.
일 실시예에 따라 영상을 복호화 하는 장치에 있어서 제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보를 비트스트림으로부터 획득하는 비트스트림 획득부; 및 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하고, 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행될지를 결정하고, 현재 제1 블록에서 인트라 예측이 수행되는 경우, 제1 인트라 예측 모드 정보에 기초하여 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하고, 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하고, 제1 예측 모드 및 복수의 제2 블록마다 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하고, 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 복호화 하는 복호화부를 포함하는 영상 복호화 장치가 제공될 수 있다.
일 실시예에 따라 영상을 부호화 하는 방법에 있어서 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하는 단계; 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행될지를 결정하는 단계; 현재 제1 블록에서 인트라 예측이 수행되는 경우, 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하는 단계; 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하는 단계; 제1 예측 모드에 기초하여 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하는 단계; 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 부호화하는 단계; 및 부호화된 영상 데이터, 현재 제1 예측 모드를 나타내는 제1 인트라 예측 모드 정보, 제2 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 포함하는 비트스트림을 생성하는 단계를 포함하는 영상 부호화 방법이 제공될 수 있다.
일 실시예에 따라 영상 복호화 방법을 수행하는 컴퓨터 프로그램이 수록된 컴퓨터 판독가능 기록매체가 제공될 수 있다.
본 개시의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 개시는 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 일 실시예들은 본 명세서의 개시가 완전하도록 하고, 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 개시에 대해 구체적으로 설명하기로 한다.
본 개시에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 관련 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.
본 명세서에서의 단수의 표현은 문맥상 명백하게 단수인 것으로 특정하지 않는 한, 복수의 표현을 포함한다.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에서 사용되는 "부"라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부"는 어떤 역할들을 수행한다. 그렇지만 "부"는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부"는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부"는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부"들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부"들로 결합되거나 추가적인 구성요소들과 "부"들로 더 분리될 수 있다.
이하, "영상"은 비디오의 정지영상와 같은 정적 이미지이거나 동영상, 즉 비디오 그 자체와 같은 동적 이미지를 나타낼 수 있다.
이하 "샘플"은, 영상의 샘플링 위치에 할당된 데이터로서 프로세싱 대상이 되는 데이터를 의미한다. 예를 들어, 공간영역의 영상에서 픽셀값, 변환 영역 상의 변환 계수들이 샘플들일 수 있다. 이러한 적어도 하나의 샘플들을 포함하는 단위를 블록이라고 정의할 수 있다.
아래에서는 첨부한 도면을 참고하여 본 개시의 실시예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그리고 도면에서 본 개시를 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략한다.
도 1a는 현재 제1 블록에 포함되는 복수개의 제2 블록에 대한 예측 모드를 현재 제1 블록의 예측 모드에 기초하여 결정할 수 있는 영상 복호화 장치(100)에 대한 블록도를 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 제1 블록의 인트라 예측 모드를 나타내는 제1 인트라 예측 모드 정보 및 제2 블록의 인트라 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 비트스트림으로부터 획득하는 비트스트림 획득부(110) 및 영상을 구성하는 적어도 하나의 프레임 중 하나인 현재 프레임에 포함되는 제1 블록 및 제2 블록을 결정하고, 제1 블록에 대한 인트라 예측 방법인 제1 예측 모드 및 제2 블록에 대한 인트라 예측 방법인 제2 예측 모드를 결정하여 영상을 복호화 하는 복호화부(120)를 포함할 수 있다. 일 실시예에 따라 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보와 관련하여, 제2 인트라 예측 모드 정보는 제1 예측 모드에 기초하여 결정된 정보일 수 있다. 즉, 일 실시예에 따라 제1 블록의 인트라 예측 수행 과정에서 이용된 인트라 예측 모드에 기초하여 제2 블록의 인트라 예측이 수행될 수 있고, 부호화 측에서는 이러한 제1 블록에서 수행된 인트라 예측 모드를 나타내는 제1 인트라 예측 모드 정보 및 제2 블록에서 수행된 인트라 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 포함하는 비트스트림을 생성할 수 있다. 영상 복호화 장치(100)는 부호화 측으로부터 수신한 비트스트림으로부터 제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보를 획득할 수 있다. 영상 복호화 장치(100)가 수행할 수 있는 영상 복호화 방법은 이하에서 다양한 실시예를 통해 설명하도록 한다.
도 2a는 일 실시예에 따라 영상 복호화 장치(100)가 현재 제1 블록의 예측 모드에 기초하여 복수개의 제2 블록에 대한 예측 모드를 결정하는 방법에 대한 흐름도를 도시한다.
일 실시예에 따라 복호화부(120)는 S200단계에서 영상에 포함되는 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정할 수 있다. 현재 프레임의 복호화 과정에서 다양한 형태의 블록이 이용될 수 있으며, 복호화부(120)는 다양한 데이터 블록에 기초한 영상 복호화 과정을 수행할 수 있다. 일 실시예에 따라 복호화부(120)는 현재 제1 블록에서 인트라 예측이 수행될지 아니면 인터 예측이 수행될지를 나타내는 정보를 비트스트림으로부터 획득하여 현재 제1 블록에서 인트라 예측이 수행될지를 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 현재 제1 블록이 포함된 소정의 데이터 단위(예를 들면, 슬라이스)의 타입을 나타내는 정보에 기초하여 현재 제1 블록에서 인트라 예측이 수행될지를 결정할 수 있다. 현재 제1 블록에서 인트라 예측 모드가 수행될지를 결정하는 과정은 종래의 다양한 복호화 방법에서 수행되는 결정 과정에 대응하는 것일 수 있으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 복호화부(120)는 S202단계에서 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행되는 경우, 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보에 기초하여 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 제1 블록 마다 어떠한 인트라 예측이 수행될지를 결정할 수 있다. 제1 블록에는 다양한 타입의 데이터 블록이 포함될 수 있다. 예를 들면, 제1 블록마다 인트라 예측이 수행될지 아니면 인터 예측이 수행될지가 결정될 수 있다. 또 다른 예를 들면, 제1 블록마다 인트라 예측 모드 중 어떠한 타입의 인트라 예측이 수행될지가 결정될 수도 있다.
일 실시예에 따라 영상 복호화 장치(100)는 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보를 이용하여 현재 제1 블록의 예측 모드를 결정할 수 있으며, 이러한 제1 인트라 예측 모드 정보는 현재 프레임을 분할하는 제1 블록마다 비트스트림으로부터 획득될 수 있다. 비트스트림 획득부(110)는 일 실시예에 따라 제1 블록마다 비트스트림으로부터 제1 인트라 예측 모드 정보를 획득할 수 있으며, 복호화부(120)는 획득된 제1 인트라 예측 모드 정보를 이용하여 현재 제1 블록에서 어떠한 타입의 인트라 예측이 수행될지를 결정할 수 있다.
일 실시예에 따라 복호화부(120)가 현재 제1 블록에 대한 인트라 예측 모드인 제1 예측 모드를 결정하기 위하여 이용하는 제1 인트라 예측 모드 정보는 현재 제1 블록에 대한 비트스트림으로부터 획득된 정보일 수 있다.
또 다른 실시예에 따르면, 복호화부(120)가 현재 제1 블록에 대한 인트라 예측 모드인 제1 예측 모드를 결정하기 위하여 이용하는 제1 인트라 예측 모드 정보는 현재 제1 블록에 인접하는 다른 제1 블록에 대한 비트스트림으로부터 획득된 정보일 수 있다. 즉, 영상 복호화 장치(100)는 현재 제1 블록의 인트라 예측 모드를 결정하기 위하여 현재 제1 블록과 관련된 제1 인트라 예측 모드 정보를 비트스트림으로부터 획득하여 이용할 수도 있고, 이미 비트스트림으로부터 획득된 현재 제1 블록에 인접하는 주변 제1 블록들과 관련된 정보를 이용할 수도 있다. 일 실시예에 따라 복호화부(120)는 현재 제1 블록의 제1 예측 모드를 결정하기 위하여, 현재 제1 블록에 인접하는 적어도 하나의 제1 블록에 대한 비트스트림으로부터 획득된 제1 인트라 예측 모드 정보 또는 인접하는 적어도 하나의 제1 블록에서 수행된 인트라 모드를 식별하는 인덱스를 이용할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제1 블록들마다 제1 인트라 예측 모드 정보를 획득하는 것이 아니라, 이미 획득된 다른 제1 블록들의 제1 인트라 예측 모드를 이용하여 현재 제1 블록의 예측 모드를 결정할 수 있음에 따라 비트스트림을 효율적으로 관리할 수 있다.
일 실시예에 따라 현재 제1 블록의 제1 예측 모드를 결정하기 위하여, 현재 제1 블록에 대한 비트스트림으로부터 획득된 제1 인트라 예측 모드 정보를 이용할지, 인접하는 다른 제1 블록에 대한 정보 또는 인덱스를 이용할지를 나타내는 소정의 플래그를 비트스트림으로부터 획득하여 이용할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 S204단계에서 현재 제1 블록에 포함되는 복수의 제2 블록을 결정할 수 있다. 현재 프레임을 분할하는 제1 블록과, 제1 블록에 포함되는 적어도 하나의 제2 블록이라는 데이터 블록 간의 관계는 다양한 데이터 블록들간의 포함 관계를 포함할 수 있다.
일 실시예에 따라 제1 블록이 최대부호화단위인 경우, 제1 블록에 포함되는 제2 블록은 최대부호화단위로부터 분할된 부호화단위일 수 있다. 일 실시예에 따라 제1 블록이 부호화단위인 경우, 제1 블록에 포함되는 제2 블록은 부호화단위에 기초하여 결정되는 예측단위 또는 변환단위일 수 있다. 다만 상술한 실시예들은 제1 블록과 제2 블록 간의 포함관계를 설명하기 위한 예시에 해당하므로, 제1 블록 및 제2 블록이 상술한 실시예에 한정하여 해석되어서는 안 되고 상술한 실시예와 유사한 포함관계에 있는 다양한 타입의 데이터 블록이 포함되는 것으로 해석될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 S206단계에서 복수의 제2 블록마다 비트스트림으로부터 획득되는 제2 인트라 예측 모드 정보에 기초하여, 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정할 수 있다.
도 3a는 일 실시예에 따라 제1 블록의 인트라 예측 모드에 기초하여 복수의 제2 블록의 인트라 예측 모드가 결정되는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 제1 블록에서 인트라 예측이 수행되는 경우, 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보에 기초하여 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정할 수 있다. 도 3a를 참조하면, 복호화부(120)는 현재 프레임을 분할하는 제1 블록들 중 하나인 현재 제1 블록(300)에서 인트라 예측이 수행될지를 결정할 수 있으며, 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보에 기초하여 어떤 방식으로 인트라 예측이 수행되는지를 결정할 수 있다. 일 실시예에 따라 제1 블록에서 수행될 수 있는 인트라 예측 모드는 방향성이 있는 인트라 예측 방법 또는 방향성이 없는 인트라 예측일 수 있다. 수행될 수 있는 인트라 예측 모드들을 식별하는 인덱스가 이용될 수 있으며, 영상 복호화 장치(100)는 비트스트림으로부터 제1 인트라 예측 모드 정보를 획득하여 현재 제1 블록(300)에서 어떤 인트라 예측 모드가 수행될지를 결정할 수 있다. 도 3a를 참조하면, 복호화부(120)는 제1 인트라 예측 모드 정보에 기초하여, 현재 제1 블록(300) 좌상측 방향(302)에 인접하는 샘플을 참조하는 방향성 인트라 예측을 수행하는 것으로 결정할 수 있다. 다만 도 3a에서 도시한 좌상측 방향(302)에 인접하는 샘플을 참조하는 방향성 인트라 예측은 단순한 실시예에 불과하며, 현재 제1 블록(300)에서 수행될 수 있는 방향성 인트라 예측은 현재 제1 블록(300)과 다양한 방향에서 인접하는 샘플들을 참조하는 인트라 예측일 수 있다.
일 실시예에 따라 복호화부(120)는 현재 제1 블록(300)에 포함되는 복수개의 제2 블록들(310, 312, 314, 316)을 결정할 수 있다. 나아가 비트스트림 획득부(110)는 이러한 복수개의 제2 블록들(310, 312, 314, 316)마다 비트스트림으로부터 제2 인트라 예측 모드 정보를 획득할 수 있다. 복호화부(120)는 제2 블록들(310, 312, 314, 316)마다 획득된 제2 인트라 예측 모드 정보를 이용하여 제2 블록들에서 수행될 수 있는 인트라 예측 모드를 개별적으로 결정할 수 있다.
도 3a를 참조하면, 복호화부(120)는 제1 예측 모드 및 복수개의 제2 블록들(310, 312, 314, 316)마다 획득되는 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여 복수개의 종류의 인트라 예측을 수행할 수 있다.
일 실시예에 따라 제2 블록들(310, 312, 314, 316)과 관련하여 획득되는 제2 인트라 예측 모드 정보는 현재 제1 블록(300)의 인트라 예측 방법과 관련하여 생성된 비트스트림으로부터 획득될 수 있다. 일 실시예에 따라 인트라 예측 모드를 나타내는 인덱스가 이용될 수 있으며, 복호화부(120)는 이러한 인덱스에 기초하여 방향성 인트라 예측 또는 무방향성 인트라 예측이 수행할지 결정할 수 있다. 예를 들면, 현재 제1 블록(300)의 인트라 예측 방법으로서, 현재 제1 블록(300)의 좌상측 방향(302)에 인접하는 샘플들을 참조하는 방향성 인트라 예측 방법을 나타내는 인덱스(또는 제1 인트라 예측 모드 정보) 및 복수의 제2 블록들(310, 312, 314, 316)과 관련하여 획득되는 제2 인트라 예측 모드 정보에 기초하여 제2 블록들(310, 312, 314, 316)의 제2 예측 모드를 결정할 수 있다.
일 실시예에 따라 현재 제1 블록(300)의 좌상측 방향(302)에 인접하는 샘플들을 참조하는 방향성 인트라 예측 방법을 나타내는 인덱스가 K인 경우, 복호화부(120)는 제2 인트라 예측 모드 정보에 기초하여 제2 블록들(310, 312, 314, 316)에서 수행될 인트라 예측 모드를 나타내는 인덱스로서 K-N-1, K-N, K+N, K+N+1 등과 같은 인덱스 중 하나를 결정할 수 있다. 즉, 복호화부(120)는 제1 인트라 예측 모드 정보에 의해 결정되는 현재 제1 블록(300)의 인트라 예측 모드에 대한 인덱스를 기준으로, 제2 블록들(310, 312, 314, 316)과 관련된 비트스트림으로부터 각각 획득되는 제2 인트라 예측 모드 정보에 기초하여 각 제2 블록마다 수행될 인트라 예측 모드를 나타내는 인덱스를 결정할 수 있고, 복호화부(120)는 인덱스에 따라 제2 예측 모드를 결정할 수 있다. 이하의 표 1은 일 실시예로서, 제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여 현재 제1 블록(300)에 포함되는 제2 블록들(310, 312, 314, 316)에 대하여 결정될 수 있는 인트라 예측 모드에 대한 인덱스를 나타내는 표이다. 일 실시예에 따라 영상 복호화 장치(100)의 비트스트림 획득부(110)가 획득하는 제2 인트라 예측 모드 정보의 비트수는 제2 블록(310, 312, 314, 316)이 제1 예측 모드를 기준으로 결정될 수 있는 제2 예측 모드의 종류의 다양성에 따라 달라질 수 있으며, 나아가 비트 길이는 가변적일 수도 있다. 이하의 표 1은 제1 블록에 대한 인덱스를 기준으로, 제2 인트라 예측 모드 정보에 따라 결정될 수 있는 제2 블록의 인트라 모드에 대한 인덱스를 나타내는 일 실시예에 불과하므로, 아래의 표의 인덱스 또는 제2 인트라 예측 모드 정보로 제한되어 해석되어서는 안 된다. 여기서 K, A 및 B는 소정의 정수를 포함할 수 있다.
일 실시예에 따라, 인트라 예측 모드를 나타내는 인덱스에 따라 방향성 인트라 예측 모드에서 이용되는 참조샘플의 방향 또는 각도가 결정될 수 있다. 일 실시예에 따라 복호화부(120)는 제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여 각 제2 블록마다 수행될 인트라 예측 모드를 나타내는 인덱스를 결정할 수 있다. 이에 따라 영상 복호화 장치(100)는 현재 제1 블록의 인트라 예측 모드와 관련된 인트라 예측 방향을 기준으로하여, 제1 블록에 포함되는 복수개의 제2 블록들의 인트라 예측 방향을 조정할 수 있다. 도 3a를 참조하면, 복호화부(120)는 제1 블록(300)에 포함되는 제2 블록들(310, 312, 314, 316)의 인트라 예측 방향(311, 313, 315, 317)을 현재 제1 블록(300)의 인트라 예측 방향(302)을 기준으로 결정할 수 있다. 표 1를 참조하면, 좌상측 제2 블록(310)에 대한 제2 인트라 예측 모드 정보가 00인 경우, 현재 제1 블록(300)의 인트라 예측 방향(302)에 대한 인덱스(K)와 동일한 인덱스(K)와 관련된 예측 방향에 따라 인트라 예측을 수행할 수 있다. 나아가 우상측 제2 블록(312)에 대한 제2 인트라 예측 모드 정보가 11인 경우, 현재 제1 블록(300)의 인트라 예측 방향(302)에 대한 인덱스(K)보다 작은 크기를 가지는 인덱스(예를 들면, K-A)와 관련된 예측 방향에 따라 인트라 예측을 수행할 수 있다. 좌하측 제2 블록(314)에 대한 제2 인트라 예측 모드 정보가 01인 경우, 현재 제1 블록(300)의 인트라 예측 방향(302)에 대한 인덱스(K)보다 큰 크기를 가지는 인덱스(예를 들면, K+A)와 관련된 예측 방향에 따라 인트라 예측을 수행할 수 있다. 우하측 제2 블록(316)에 대한 제2 인트라 예측 모드 정보가 10인 경우, 현재 제1 블록(300)의 인트라 예측 방향(302)에 대한 인덱스(K)보다 큰 크기를 가지는 인덱스(예를 들면, K+A+B)와 관련된 예측 방향에 따라 인트라 예측을 수행할 수 있다.
이에 따라 현재 제1 블록(300)에서 이용된 인트라 예측 방향(302)뿐만 아니라, 현재 제1 블록(300)에 포함되는 복수개의 제2 블록(310, 312, 314, 316)에서 개별적으로 결정되는 인트라 예측 방향이 이용될 수 있다. 이와 같이 다양한 실시예에 따라, 영상 복호화 장치(100)는 현재 제1 블록(300)이라는 데이터 블록의 인트라 예측을 수행하는 것보다 세분화된 제2 블록(310, 312, 314, 316)을 기준으로 다양한 인트라 예측을 수행함으로써 정확한 영상 복원 과정을 수행할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 복수의 제2 블록들 마다 비트스트림으로부터 획득되는 제2 인트라 예측 모드 정보가 나타내는 제2 예측 모드에 대한 인덱스를 이용하여 제2 블록들 각각에 대한 제2 예측모드를 결정할 수도 있다.
도 3b는 일 실시예에 따라 영상을 분할하는 비-정사각형 형태의 블록에 기초하여 예측 모드가 결정되는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)의 복호화부(120)는 정사각형 형태의 데이터 단위뿐만 아니라 비-정사각형 형태의 데이터 단위를 이용하여 영상을 복호화할 수 있다. 도 3b를 참조하면, 복호화부(120)는 현재 제1 블록(320)에 포함되는 복수개의 제2 블록들(330, 332, 334, 336)마다 획득되는 제2 인트라 예측 모드 정보에 기초하여 복수개의 종류의 인트라 예측을 수행할 수 있으며, 비트스트림으로부터 획득되는 제2 인트라 예측 모드 정보는 제1 인트라 예측 모드 정보와 관련된 정보일 수 있다.
일 실시예에 따라 제2 블록들(330, 332, 334, 336)과 관련하여 획득되는 제2 인트라 예측 모드 정보는 현재 제1 블록(320)의 인트라 예측 방법과 관련하여 생성된 비트스트림으로부터 획득될 수 있다. 일 실시예에 따라 인트라 예측 모드를 나타내는 인덱스가 이용될 수 있으며, 복호화부(120)는 이러한 인덱스에 기초하여 방향성 인트라 예측 또는 무방향성 인트라 예측이 수행할지 결정할 수 있다. 예를 들면, 현재 제1 블록(320)의 인트라 예측 방법으로서, 현재 제1 블록(320)의 상측 방향(322)에 인접하는 샘플들을 참조하는 방향성 인트라 예측 방법을 나타내는 인덱스(또는 제1 인트라 예측 모드 정보) 및 복수의 제2 블록들(330, 332, 334, 336)과 관련하여 획득되는 제2 인트라 예측 모드 정보에 기초하여 제2 블록들(330, 332, 334, 336)의 제2 예측 모드를 결정할 수 있다. 여기서 현재 제1 블록(320)에 포함되는 복수의 제2 블록들(330, 332, 334, 336)의 형태는 비-정사각형 형태일 수 있다. 나아가 도 3b에서 도시하는 현재 제1 블록(320)과 같은 형태의 정사각형 형태가 아닌 비-정사각형 형태의 제1 블록이 현재 프레임에 포함될 수도 있다. 비-정사각형 형태의 제1 블록에 포함되는 복수개의 제2 블록들의 형태 역시 정사각형 형태 또는 비-정사각형 형태의 데이터 블록일 수 있다. 즉, 다양한 실시예들에서 이용될 수 있는 제1 블록 및 제2 블록의 형태의 경우, 제1 블록 및 제2 블록은 정사각형 또는 비-정사각형 형태 등 제1 블록과 제2 블록 간의 포함관계를 만족하는 다양한 형태일 수 있다.
일 실시예에 따라 제2 블록들(330, 332, 334, 336)과 관련하여 획득되는 제2 인트라 예측 모드 정보는 현재 제1 블록(320)의 인트라 예측 방법과 관련하여 생성된 비트스트림으로부터 획득될 수 있다. 일 실시예에 따라 인트라 예측 모드를 나타내는 인덱스가 이용될 수 있으며, 복호화부(120)는 이러한 인덱스에 기초하여 방향성 인트라 예측 또는 무방향성 인트라 예측이 수행할지 결정할 수 있다. 예를 들면, 현재 제1 블록(320)의 인트라 예측 방법으로서, 현재 제1 블록(320)의 상측 방향(322)에 인접하는 샘플들을 참조하는 방향성 인트라 예측 방법을 나타내는 인덱스(또는 제1 인트라 예측 모드 정보) 및 비-정사각형 형태를 가지는 복수의 제2 블록들(330, 332, 334, 336)과 관련하여 획득되는 제2 인트라 예측 모드 정보에 기초하여 제2 블록들(330, 332, 334, 336)의 제2 예측 모드를 결정할 수 있다. 비-정사각형 형태의 제2 블록들(330, 332, 334, 336)의 제2 예측 모드를 결정하는 방법은 도 3a에서 설명한 방법에 유사한 방법일 수 있으므로 자세한 설명은 생략하도록 한다.
도 3c는 일 실시예에 따라 제1 블록에 포함되는 제2 블록에서 인트라 예측 모드가 결정되는 과정을 구체적으로 도시한 것이다.
일 실시예에 따라 복호화부(120)는 비트스트림으로부터 획득된 제2 인트라 예측 모드 정보와 제1 블록(350)과 관련하여 결정된 인트라 예측 모드의 방식에 기초하여 제2 블록 각각에 대한 인트라 예측 모드를 결정할 수 있다. 일 실시예에 따라 제1 블록(350)에서 결정된 인트라 예측 모드가 방향성 인트라 예측 모드로서, 제1 블록(350)의 좌측 경계 및 상측 경계 중 적어도 하나에 인접하는 참조 샘플을 참조하는 인트라 예측 모드가 이용될 수 있다. 이러한 인트라 예측 모드를 기준으로 제2 블록(360)의 인트라 예측 모드가 결정될 수 있으며, 이 경우 제1 블록의 인트라 예측 모드가 기준이 될 수 있다. 이하에서는 설명상 편의를 위하여 제2 블록(360)의 인트라 예측 모드를 결정하기 위하여 이용되는 제1 블록(350)의 인트라 예측 모드를 기준 인트라 예측 모드로 지칭하도록 한다.
일 실시예에 따라 복호화부(120)는 나아가 일 실시예에 따라 복호화부(120)는 제2 블록(360)에서 이용될 수 있는 방향성 인트라 예측 모드의 개수 및 방향은 기준 인트라 예측 모드에 기초하여 결정할 수 있다. 구체적으로, 상술한 표 1과 같이, 제2 블록(360)의 제2 인트라 예측 모드 정보가 00인 경우에는 기준 인트라 예측 모드와 동일한 방향에 위치하는 참조 샘플을 참조하여 인트라 예측을 수행할 수 있다. 일 실시예에 따라 복호화부(120)가 이용하는 제2 인트라 예측 모드 정보가 의미하는 인트라 예측 모드와 관련된 인덱스는, 기준 인트라 예측 모드의 방향에 따라 달라질 수 있다. 즉, 복호화부(120)는 기준 인트라 예측 모드에 따라 결정되는 인덱스(K)와 소정의 임계치(L)를 비교한 결과에 기초하여, 제2 인트라 예측 모드 정보가 나타내는 제2 예측 모드를 다르게 결정할 수 있다. 이하의 표 2는 일 실시예에 따라 K 및 L의 비교 결과에 따라 결정될 수 있는 제2 예측 모드를 포함하는 표이다.
즉, 비트스트림 획득부(110)가 획득한 제2 인트라 예측 모드 정보가 동일하더라도, 복호화부(120)는 제1 예측 모드에서 이용하는 참조샘플의 예측 방향이 어느 쪽인지에 따라 제2 예측 모드로 결정될 수 있는 인덱스를 다양하게 결정할 수 있다. 이에 따라 영상 복호화 장치(100)의 예측 과정에서 제1 예측 모드를 나타내는 인덱스(K)를 기준으로 어느 한쪽으로 더 다양한 제2 예측 모드가 이용될 수 있다.
도 3c를 참조하면, 현재 제1 블록(350)의 제1 예측 모드의 인덱스(K)가 소정의 임계치(L)이상인 경우, 복호화부(120)는 일 실시예에 따라, 복호화부(120)는 제2 인트라 예측 모드 정보가 나타내는 인덱스로서 제1 예측 모드의 인덱스(K)를 기준으로, K보다 작은 인덱스(K-A)와 관련된 예측 방향(361), K보다 큰 인덱스(K+A, K+A+B)와 관련된 예측 방향(363, 364), 제1 예측 모드의 예측 방향(351)와 동일한 예측 방향(362)과 관련된 인트라 예측 모드 중 하나를 제2 블록(360)의 제2 예측 모드로 결정할 수 있다. 또 다른 일 실시예에 따라 현재 제1 블록(370)의 제1 예측 모드의 인덱스(K)가 소정의 임계치(L) 미만인 경우, 복호화부(120)는 일 실시예에 따라, 복호화부(120)는 제2 인트라 예측 모드 정보가 나타내는 인덱스로서 제1 예측 모드의 인덱스(K)를 기준으로, K보다 작은 인덱스(K-A, K-A-B)와 관련된 예측 방향(381, 382), K보다 큰 인덱스(K+A)와 관련된 예측 방향(384), 제1 예측 모드의 예측 방향(371)과 동일한 예측 방향(383)과 관련된 인트라 예측 모드 중 하나를 제2 블록(380)의 제2 예측 모드로 결정할 수 있다. 다만 이러한 실시예는 제1 예측 모드와 관련된 예측 방향에 따라 제2 예측 모드의 예측 방향의 종류가 다양하게 결정될 수 있다는 점을 설명하기 위한 예이므로, 제1 예측 모드 및 2 예측 모드의 종류가 이러한 실시예에 한정하여 해석되어서는 안 되며 예측 모드로서 다양한 예측 방향 및 개수가 이용될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)가 제2 인트라 예측 모드 정보에 기초하여 제2 블록의 인트라 예측 모드를 나타내는 인덱스를 결정함에 있어서, 제2 인트라 예측 모드에 따라 결정될 수 있는 인덱스 간의 차이는 균일한 것일 수 있다. 즉, 복호화부(120)는 표 1 또는 표 2에서 제1 인트라 예측 모드를 나타내는 인덱스(K)를 기준으로하여 제2 블록의 제2 예측 모드로 결정될 수 있는 다른 인덱스값들 간의 차이는 균일할 수 있다(A=B).
또 다른 일 실시예에 따라 복호화부(120)는 표 1 또는 표 2에서 제1 인트라 예측 모드를 나타내는 인덱스(K)를 기준으로하여 제2 블록의 제2 예측 모드로 결정될 수 있는 다른 인덱스값들 간의 차이는 균일하지 않을 수도 있다(A>B 또는 A<B).
또 다른 일 실시예에 따라 영상 복호화 장치(100)가 제2 블록들마다 제2 예측 모드에 대한 인덱스를 결정하는 경우, 기준이 되는 제1 블록의 제1 예측 모드의 인덱스(K)보다 작은 인덱스들 간의 차이는 제1 예측 모드의 인덱스(K)보다 큰 인덱스들은 차이와 상이한 것일 수 있다. 즉, 복호화부(120)는 제1 예측 모드의 인덱스(K)보다 작은 인덱스들의 값으로서 K-nB (n>1)를 이용하여 제2 예측 모드를 결정할 수 있고, 제1 예측 모드의 인덱스(K)보다 큰 인덱스들의 값으로서 K+nA (n>1)를 이용하여 제2 예측 모드를 결정할 수 있다. 또한 일 실시예에 따라 영상 복호화 장치(100)는 제2 블록들마다 제2 예측 모드에 대한 인덱스를 결정하기 위하여, 제1 예측 모드의 인덱스(K)보다 작은 인덱스들 간의 차이가 균일하거나 불균일한 것으로 결정하고, 제1 예측 모드의 인덱스(K)보다 큰 인덱스들 간의 차이가 균일하거나 불균일한 것으로 결정할 수 있다.
도 4a는 일 실시예에 따라 현재 제2 블록의 제2 예측 모드를 결정하기 위하여 제1 블록의 제1 예측 모드 및 이전 제2 블록의 제2 예측 모드에 기초하여 결정하는 과정을 나타내는 흐름도를 나타낸다.
일 실시예에 따라 영상 복호화 장치(100)가 S400 내지 S404단계에서 수행하는 동작은 도 2a의 S200 내지 S204단계에서 수행하는 동작에 유사한 동작일 수 있으므로 자세한 설명은 생략하도록 한다.
S406단계에서 복호화부(120)는 일 실시예에 따라 제1 인트라 예측 모드 정보에 따라 결정되는 예측 방향 및 이전 제2 블록과 관련된 제2 인트라 예측 모드 정보에 따라 결정되는 예측 방향에 기초하여, 현재 제2 블록에서 이용되는 기준 예측 방향을 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 현재 제1 블록에 포함되는 복수개의 제2 블록이 처리되는 순서를 결정하여 복호화를 수행할 수 있다. 제2 블록이 처리되는 순서는 미리 결정된 순서일 수 있으며, 이러한 순서는 현재 제1 블록에 포함되는 복수개의 제2 블록의 형태에 따라 다양한 순서일 수 있다. 예를 들면 복수개의 제2 블록이 동일한 수의 행 및 열로 현재 제1 블록를 분할하는 형태인 경우에는 Z-스캔오더(Z-scan order)에 따라 처리될 수 있다. 복수개의 제2 블록이 현재 제1 블록을 형 또는 열 방향으로 분할하는 형태인 경우에는 현재 제1 블록을 분할하는 방향에 수직한 방향으로 처리될 수 있다. 복호화부(120)는 일 실시예에 따라 결정된 제2 블록의 처리 순서를 기준으로 이미 처리된 이전 제2 블록과 관련된 예측 방향을 이용하여 현재 제2 블록의 제2 예측 모드를 결정할 수 있다.
S408단계에서 영상 복호화 장치(100)는 일 실시예에 따라 현재 제2 블록과 관련하여 획득되는 제2 인트라 예측 모드 정보에 기초하여, 기준 예측 방향을 포함하는 복수의 예측 방향 중 하나를 이용하는 예측 모드를 현재 제2 블록에 대한 제2 예측 모드로서 결정할 수 있다.
S410단계에서 영상 복호화 장치(100)는 일 실시예에 따라 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 복호화할 수 있다.
도 4c는 일 실시예에 따라 제1 예측 모드에 따른 예측 방향을 기준으로 현재 제2 블록의 인트라 예측 과정에서 이용될 수 있는 예측 방향을 결정하는 과정을 도시한다.
도 4c를 참조하면, 영상 복호화 장치(100)의 비트스트림 획득부(110)가 현재 제1 블록(400)과 관련된 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보를 이용하여 현재 제1 블록(400)에서 수행될 인트라 예측 모드의 예측 방향(402)을 결정할 수 있다. 복호화부(120)는 현재 제1 블록(400)에 포함되는 복수개의 제2 블록을 결정할 수 있다. 나아가 복호화부(120)는 현재 제1 블록(400)에 포함되는 복수개의 제2 블록의 제2 예측 모드를 결정할 수 있고, 복수개의 제2 블록의 제2 예측 모드들은 복수개의 종류일 수 있다. 복호화부(120)는 복수개의 제2 블록의 처리 순서에 따라 제2 블록의 제2 예측 모드를 결정할 수 있다.
도 4c를 참조하면, 영상 복호화 장치(100)의 비트스트림 생성부(110)는 현재 제1 블록(400)에 포함되는 복수개의 제2 블록들 중 하나인 제2 블록(410)과 관련된 비트스트림으로부터 제2 인트라 예측 모드 정보를 획득할 수 있다. 복호화부(120)는 이러한 제2 블록(410)의 제2 인트라 예측 모드 정보에 기초하여, 복수개의 방향(412, 414, 416) 중 하나를 예측 방향으로 하는 제2 예측 모드를 결정할 수 있다. 현재 제1 블록(400)의 예측 방향(402)과 동일한 예측 방향(414)은 기준 예측 방향으로서 제2 블록(410)의 인트라 예측 모드로서 이용할 수 있는 예측 방향들 중 하나로 포함될 수 있다. 이에 따라, 복호화부(120)는 제2 블록(410)의 제2 인트라 예측 모드 정보에 기초하여 제1 블록(400)의 예측 방향(402)인 기준 예측 방향을 포함하는 복수개의 예측 방향 중 하나를 제2 블록의 예측 방향으로 결정하여 제2 예측 모드를 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 현재 제1 블록(400)에 포함되는 복수개의 제2 블록(410, 420, 427, 428)의 예측 방향을 결정하는 기준이 되는 현재 제1 블록(400)의 예측 방향(402)을 기준 예측 방향으로서 이용할 수 있다. 복호화부(120)가 기준 예측 방향을 이용하여 복수개의 예측 방향 중 하나를 제2 블록의 제2 예측 모드의 예측 방향으로서 결정하는 과정에 대하여는, 예측 방향에 대응하는 인덱스를 이용하는 상술한 방법과 유사한 방법일 수 있으므로 자세한 설명은 생략하도록 한다.
도 4d는 일 실시예에 따라 제1 예측 모드에 따른 예측 방향 및 이전 제2 블록의 예측 방향을 이용하여 현재 제2 블록의 인트라 예측 과정에서 이용될 수 있는 예측 방향을 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)의 비트스트림 획득부(110)가 현재 제1 블록(430)과 관련된 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보를 이용하여 현재 제1 블록(430)에서 수행될 인트라 예측 모드의 예측 방향(432)을 결정할 수 있다.
도 4d를 참조하면, 영상 복호화 장치(100)의 비트스트림 생성부(110)는 현재 제1 블록(430)에 포함되는 복수개의 제2 블록들 중 하나인 제2 블록(440)과 관련된 비트스트림으로부터 제2 인트라 예측 모드 정보를 획득할 수 있다. 복호화부(120)는 이러한 제2 블록(440)의 제2 인트라 예측 모드 정보에 기초하여, 복수개의 방향(442, 444, 446) 중 하나를 예측 방향으로 하는 제2 예측 모드를 결정할 수 있다. 현재 제1 블록(430)의 예측 방향(432)과 동일한 예측 방향(444)은 기준 예측 방향으로서 제2 블록(440)의 인트라 예측 모드로서 이용할 수 있는 예측 방향들 중 하나로 포함될 수 있다. 이에 따라, 복호화부(120)는 제2 블록(440)의 제2 인트라 예측 모드 정보에 기초하여 제1 블록(430)의 예측 방향(432)인 기준 예측 방향을 포함하는 복수개의 예측 방향 중 하나를 제2 블록의 예측 방향으로 결정하여 제2 예측 모드를 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 제2 인트라 예측 모드 정보에 기초하여, 기준 예측 방향(444)이 아닌 다른 예측 방향(446)에 위치하는 참조샘플을 참조하는 제2 예측 모드를 결정할 수 있다.
일 실시예에 따라 복호화부(120)는 현재 제1 블록(430)에 포함되는 복수개의 제2 블록(440, 450, 455, 457)의 예측 방향을 결정하기 위하여 현재 제1 블록(430)의 예측 방향(432)을 기준 예측 방향으로서 통일되게 이용하는 것이 아니라, 이전에 처리된 다른 제2 블록의 예측 방향을 기준 예측 방향으로 이용할 수 있다. 복호화부(120)는 이전 제2 블록(440)의 예측 방향(446)을 결정할 수 있으며, 그 다음에 처리될 현재 제2 블록(450)의 예측 방향을 결정하기 위하여 이전 제2 블록(440)의 예측 방향(446)을 이용할 수 있다. 일 실시예에 따라 복호화부(120)는 이전 제2 블록(440)의 예측 방향(446)을 이용하는 인트라 예측 모드의 인덱스를 참조하여 현재 제2 블록(450)의 예측 방향을 결정할 수 있으며, 이 경우 이전 제2 블록(440)의 예측 방향(446)이 현재 제2 블록(450)에서 이용되는 기준 예측 방향일 수 있다.
도 4d를 참조하면, 복호화부(120)는 현재 제2 블록(450)의 이전 제2 블록(440)의 예측 방향(446)과 동일한 예측 방향을 포함하는 복수개의 예측 방향(451, 452, 453) 중 하나를 인트라 예측에 이용될 예측 방향으로 결정함으로써 제2 예측 모드를 결정할 수 있다. 즉, 복호화부(120)는 이전 제2 블록(440)과 현재 제2 블록(450) 각각의 제2 예측 모드를 결정하기 위하여 서로 다른 기준 예측 방향을 이용할 수 있다. 이에 따라 비트스트림 획득부(110)가 이전 제2 블록(440)과 현재 제2 블록(450)의 비트스트림으로부터 서로 동일한 값을 가지는 제2 인트라 예측 모드 정보를 획득하더라도, 복호화부(120)는 이전 제2 블록(440)과 현재 제2 블록(450)간에 서로 다른 기준 예측 방향을 이용함으로써 제2 예측 모드 결정 과정에서 다양한 예측 방향들의 조합을 이용할 수 있다. 도 4d를 참조하면, 이전 제2 블록(440)에서 이용할 수 있는 예측 방향들(442, 444, 446)의 조합과 현재 제2 블록(450)에서 이용할 수 있는 예측 방향들(451, 452, 453)의 조합이 서로 다르다. 일 실시예에 따라 복호화부(120)는 제2 인트라 예측 모드 정보 및 기준 예측 방향(452)에 기초하여 현재 제2 블록(450)에서 이용할 수 있는 복수개의 예측 방향들(451, 452, 453) 중 하나를 선택함으로써 제2 예측 모드를 결정할 수 있다.
일 실시예에 따라 복호화부(120)는 현재 제2 블록(450) 다음에 처리되는 제2 블록(455)에서 이용될 수 있는 예측 방향의 조합을 결정하기 위하여, 상기 현재 제2 블록(450)의 예측 방향의 조합을 이전 제2 블록(440)의 예측 방향(446)에 기초하여 결정하는 과정과 유사한 과정을 수행할 수 있다. 이에 따라 복호화부(120)는 현재 제2 블록(450)의 예측 방향(452)에 기초하여 현재 제2 블록(450) 다음에 처리되는 제2 블록(455)의 기준 예측 방향(456)을 결정할 수 있고 이에 기초하여 이용될 수 있는 예측 방향의 조합을 결정할 수 있다. 나아가 현재 제2 블록(450) 다음에 처리되는 제2 블록(455)의 제2 인트라 예측 모드 정보에 기초하여 기준 예측 방향(456)을 포함하는 복수개의 예측 방향들 중 하나의 예측 방향(454)을 이용하여 인트라 예측을 수행하기 위한 제2 예측 모드를 결정할 수 있다.
도 4e는 일 실시예에 따라 제1 블록의 예측 방향을 이용하여 각 제2 블록들에서 이용될 수 있는 기준 예측 방향을 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)의 비트스트림 획득부(110)가 현재 제1 블록(460)과 관련된 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보를 이용하여 현재 제1 블록(460)에서 수행될 인트라 예측 모드의 예측 방향(462)을 결정할 수 있다. 나아가 복호화부(120)는 현재 제1 블록(460)의 예측 방향(462)를 이용하여 현재 제1 블록(460)에 포함되는 복수개의 제2 블록들의 기준 예측 방향을 결정할 수 있다.
도 4e를 참조하면 영상 복호화 장치(100)의 비트스트림 생성부(110)는 현재 제1 블록(460)에 포함되는 복수개의 제2 블록들 중 하나인 제2 블록(470a)과 관련된 비트스트림으로부터 제2 인트라 예측 모드 정보를 획득할 수 있다. 복호화부(120)는 이러한 제2 블록(470a)의 제2 인트라 예측 모드 정보에 기초하여, 복수개의 방향(472, 474, 476) 중 하나를 예측 방향으로 하는 제2 예측 모드를 결정할 수 있다. 현재 제1 블록(460)의 예측 방향(462)과 동일한 예측 방향(474)은 기준 예측 방향으로서 제2 블록(470a)의 인트라 예측 모드로서 이용할 수 있는 예측 방향들 중 하나로 포함될 수 있다. 이에 따라, 복호화부(120)는 제2 블록(470a)의 제2 인트라 예측 모드 정보에 기초하여 제1 블록(460)의 예측 방향(462)인 기준 예측 방향을 포함하는 복수개의 예측 방향 중 하나를 제2 블록의 예측 방향으로 결정하여 제2 예측 모드를 결정할 수 있다.
일 실시예에 따라 복호화부(120)는 복수의 제2 블록들마다 이용되는 기준 예측 방향을 각각 다른 것으로 결정할 수 있다. 이하에서는 도 4e와 관련된 일 실시예의 설명 상의 편의를 위하여 현재 제1 블록(460)에 포함되는 복수개의 제2 블록들(470a, 470b, 470c, 470d)를 각각 A블록, B블록, C블록, D블록으로 지칭하도록 한다. 일 실시예에 따라 복호화부(120)는 A블록, B블록, C블록, D블록 순서대로 제2 예측 모드를 결정할 수 있다.
일 실시예에 따라 복호화부(120)는 A블록(470a)에서 인트라 예측을 수행하는 데 이용될 수 있는 예측 방향(472, 474, 476) 중 하나인 기준 예측 방향(474)에 기초하여 제2 예측 모드를 결정할 수 있다. 복수개의 제2 블록들 중 가장 먼저 예측 방향이 결정되는 A블록(470a)의 기준 예측 방향은 현재 제1 블록(460)의 예측 방향(462)과 동일할 수 있다. 일 실시예에 따라 복호화부(120)는 A블록(470a)와 관련하여 획득된 제2 인트라 예측 모드 정보에 기초하여 예측 방향들(472, 474, 476) 중 하나의 방향(476)을 선택함으로써, 인트라 예측을 수행하기 위한 제2 예측 모드를 결정할 수 있다.
일 실시예에 따라 복호화부(120)는 B블록(470b)에서 기준 예측 방향을 포함하는 복수개의 예측 방향(482, 484, 486)을 이용하여 제2 예측 모드를 결정할 수 있다. 복호화부(120)는 현재 제1 블록(460)의 예측 방향(462) 및 B블록(470b)의 기준 예측 방향을 결정하기 위하여, 현재 제1 블록(460)의 예측 방향(462)에 따라 결정되는 예측 시작 지점(463a) 및 예측 종료 지점(463b), B블록(470b)의 크기 및 B블록(470b)의 현재 제1 블록(460) 내의 위치 중 적어도 하나를 고려할 수 있다. 일 실시예에 따라 복호화부(120)는 제1 블록(460)의 예측 시작 지점과(463a) 동일한 지점을 A블록(470a)의 예측 시작 지점(471a)으로 결정할 수 있고, A블록(470a)의 예측 방향 및 예측 시작 지점(471a)에 기초하여 A블록(470a)의 예측 종료 지점(471b)을 결정할 수 있다. 일 실시예에 따라 예측 시작 지점 및 예측 종료 지점이란 영상 복호화 장치(100)가 블록 내에서 방향성 인트라 예측을 수행하는 과정에서 예측 방향에 따라 예측이 시작 및 종료되는 지점인 것으로 정의될 수 있다.
일 실시예에 따라 복호화부(120)는 A블록(470a)의 예측 방향(476)에 기초하여 결정된 예측 종료 지점(471b)을 B블록(470b)에서의 예측 시작 지점으로서 이용할 수 있고, 이러한 B블록(470b)의 예측 시작 지점 및 제1 블록(460)의 예측 종료 지점(463b)에 기초하여 B블록(470b)에서의 기준 예측 방향(484)을 결정할 수 있다. 복호화부(120)는 B블록(470b)에서의 예측 시작 지점의 현재 제1 블록(460) 내에서의 위치 및 제1 블록(460)의 예측 종료 지점(463b)에 기초하여 B블록(470b)의 기준 예측 방향(484)를 결정할 수 있다. 즉, 현재 제1 블록(460)내에서의 B블록(470b)에서의 예측 시작 지점으로부터 현재 제1 블록(460)의 예측 종료 지점(463b)이 연결되는 방향이 B블록(470b)의 기준 예측 방향으로 결정될 수 있다. 이에 따라 영상 복호화 장치(100)는 현재 제1 블록(460)의 예측 방향을 고려한 제2 블록의 제2 예측 모드를 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 이러한 방법과 유사한 방법을 통해 결정될 수 있는 C블록(470c)의 기준 예측 방향(489)을 포함하는 예측 방향들 중 하나를 C블록(470c)의 예측 방향(488)으로서 결정할 수 있고, 이에 따라 C블록(470c)의 제2 예측 모드를 결정할 수 있다. 또한 복호화부(120)는 이러한 방법과 유사한 방법을 통해 결정될 수 있는 D블록(470d)의 기준 예측 방향(490)을 포함하는 예측 방향들 중 하나를 D블록(470d)의 예측 방향으로서 결정할 수 있고, 이에 따라 D블록(470d)의 제2 예측 모드를 결정할 수 있다. 도 4e를 참조하면, 복호화부(120)는 획득된 제2 인트라 예측 모드 정보에 기초하여 기준 예측 방향(490)을 D블록(470d)의 예측 방향으로 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제1 블록의 예측 종료 지점 및 각 제2 블록의 예측 시작 지점을 이용하여 제2 블록의 기준 예측 방향을 결정하기 위한 과정에서, 복수개의 제2 블록들(470a, 470b, 470c, 470d)들 중 마지막에 처리되는 제2 블록(470d)과 관련된 제2 인트라 예측 모드 정보를 비트스트림으로부터 획득하는 과정을 생략할 수 있다. 이에 따라 영상 복호화 장치(100)는 제2 인트라 예측 모드 정보에 기초하여 제2 블록(470d)의 예측 방향을 결정하는 대신, 제2 블록(470d)의 기준 예측 방향(490)에 따라 인트라 예측이 수행되는 예측 모드를 제2 예측 모드로서 결정할 수 있다. 이에 따라 영상 복호화 장치(100)는 비트스트림의 대역폭을 효과적으로 이용할 수 있다.
다만 도 4c, 도 4d, 도 4e에서 도시하는 제1 블록, 제2 블록의 형태, 예측 방향 등은 도 4a의 흐름도에 따라 제1 블록의 예측 방향에 기초하여 제2 블록들의 제2 예측 모드를 결정할 수 있다는 점을 설명하기 위한 예시일 뿐이므로, 도시된 형태 및 방향에 한정하여 해석되어서는 안된다.
도 5a는 일 실시예에 따라 현재 제1 블록에서 방향성 인트라 예측이 수행되는지에 기초하여 제2 블록들의 제2 예측 모드가 결정되는 과정을 나타내는 흐름도이다.
일 실시예에 따라 영상 복호화 장치(100)가 S500단계 내지 S504단계에서 수행하는 동작에 대한 특징은 도 2a의 S200단계 내지 S204단계에서 수행되는 동작에 대한 특징과 유사할 수 있으므로 자세한 설명은 생략하도록 한다.
S506단계에서 영상 복호화 장치(100)는 S502단계에서 결정된 제1 예측 모드가 방향성 인트라 예측 모드인지 여부를 결정할 수 있다. 방향성 인트라 예측 모드란 제1 블록에 인접하는 참조샘플을 이용하는 예측 동작이, 인트라 예측 모드의 인덱스와 관련된 특정 방향으로 수행되는 인트라 예측 모드일 수 있다. 이에 반해 무방향성 인트라 예측 모드란 제1 블록에 인접하는 참조 샘플을 이용하여 인트라 예측을 수행하되 특정한 방향에 따라 예측이 수행되지 않는 것이 아니라 전체적으로 수행되는 인트라 예측 모드일 수 있다. 일 실시예에 따라 무방향성 인트라 예측 모드에는 DC 모드, Planar 모드 등이 포함될 수 있으며, 방향성 인트라 예측 모드에는 다양한 예측 방향을 이용할 수 있는 Angular모드가 포함될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 비트스트림 획득부(110)에 의해 획득된 제1 인트라 예측 모드 정보에 기초하여 제1 블록에서 수행되는 예측 모드가 방향성 인트라 예측 모드인지를 결정할 수 있다. 일 실시예에 따라 제1 인트라 예측 모드 정보는 인트라 예측 모드를 구분하기 위한 인덱스를 포함하는 정보일 수 있다.
일 실시예에 따라 제1 예측 모드가 방향성 인트라 예측 모드인 것으로 결정된 경우, 복호화부(120)는 S508 단계에서 복수의 제2 블록에 대한 제2 인트라 예측 모드 정보에 기초하여 복수의 제2 블록에서 수행될 방향성 인트라 예측 모드를 나타내는 제2 예측 모드를 결정할 수 있다. 즉, 복수의 제2 블록이 포함되는 제1 블록에 대한 제1 예측 모드가 방향성 인트라 예측 모드인 경우, 제2 블록에 대한 제2 인트라 예측 모드 정보에 의해 방향성 인트라 예측 모드가 제2 예측 모드로서 결정될 수 있다.
일 실시예에 따라 제1 예측 모드가 무방향성 인트라 예측 모드인 것으로 결정된 경우, 복호화부(120)는 S510 단계에서 복수의 제2 블록에 대한 제2 인트라 예측 모드 정보에 기초하여 복수의 제2 블록에서 수행될 무방향성 인트라 예측 모드를 나타내는 제2 예측 모드를 결정할 수 있다. 즉, 복수의 제2 블록이 포함되는 제1 블록에 대한 제1 예측 모드가 무방향성 인트라 예측 모드인 경우, 제2 블록에 대한 제2 인트라 예측 모드 정보에 의해 방향성 인트라 예측 모드가 제2 예측 모드로서 결정될 수 있다. 따라서 영상 복호화 장치(100)가 획득한 제2 인트라 예측 모드 정보가 S508단계에서 이용되는 제2 인트라 예측 모드 정보와 동일한 값을 가지더라도, 복수의 제2 블록의 제2 예측 모드는 서로 다른 예측 모드로 결정될 수 있다.
S512단계에서 영상 복호화 장치(100)는 S502단계에서 결정된 제1 예측 모드 및 S508단계 또는 S510단계에서 결정된 제2 예측 모드 중 적어도 하나에 기초하여 인트라 예측을 수행함으로써 영상을 복호화할 수 있다.
도 6은 일 실시예에 따라 제1 블록에서 분할된 제2 블록들의 행 또는 열에 기초하여 제2 예측 모드를 결정하는 과정을 도시한다.
도 6을 참조하면, 일 실시예에 따라 영상 복호화 장치(100)는 제1 블록(600)의 예측 방향에 기초하여, 제1 블록(600)에 포함되는 복수개의 제2 블록(610, 612, 614, 616)의 제2 예측 모드를 결정할 수 있으며, 이 경우 복수개의 제2 블록의 제2 예측 모드는 복수개의 제2 블록(610, 612, 614, 616)의 제1 블록(600) 내의 위치를 기준으로 결정될 수 있다. 일 실시예에 따라 제1 블록(600)의 제1 예측 모드에 따라 예측이 수행되는 예측 방향(602, 606 등)이 결정될 수 있다. 제1 블록(600)에 포함되는 복수개의 제2 블록(610, 612, 614, 616)은 제1 블록(600)의 높이 및 너비를 분할하는 형태로 결정될 수 있다.
일 실시예에 따라 제1 블록(600)에 포함되는 제2 블록들 중 동일한 행에 위치하는 제2 블록 또는 동일한 열에 위치하는 제2 블록들 마다 제2 예측 모드를 동일하게 결정할 수 있다. 도 6을 참조하면, 복호화부(120)는 제1 블록(600) 내에서 첫 번째 행에 위치하는 제2 블록들(610, 612)의 예측 방향(611)이 동일한 것으로 결정하고, 두 번째 행에 위치하는 제2 블록들(614, 616)의 예측 방향(615)은 동일한 것으로 결정할 수 있다. 또 다른 일 실시예에 따라 복호화부(120)는 제1 블록(620) 내에서 첫 번째 열에 위치하는 제2 블록들(630, 632)의 예측 방향(631)이 동일한 것으로 결정하고, 두 번째 열에 위치하는 제2 블록들(634, 636)의 예측 방향(635)은 동일한 것으로 결정할 수 있다. 각각의 제2 블록들에 대한 제2 예측 모드가 결정되는 과정은 상술한 다양한 실시예에 따라 영상 복호화 장치(100)에 의해 수행될 수 있다.
일 실시예에 따라 복호화부(120)는 제1 블록의 제1 예측 모드에 대응하는 예측 방향이 수직 방향에 유사한 방향인지 또는 수평 방향에 유사한 방향인지에 기초하여 동일한 행 또는 열에 위치하는 제2 블록들의 제2 예측 모드가 동일한 것으로 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 제1 블록의 예측 방향이 제1 블록의 중앙을 기준으로 제1 블록의 경계 중 좌상측 지점(603)에서부터 우상측 지점(604)까지 인접하는 참조 샘플들을 참조하기 위한 예측 방향인 경우 수직 방향에 유사한 방향인 것으로 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 제1 블록의 예측 방향이 제1 블록의 중앙(625)을 기준으로 제1 블록의 경계 중 좌상측 지점(623)에서부터 좌하측 지점(624)까지 인접하는 참조 샘플들을 참조하기 위한 예측 방향인 경우 수평 방향에 유사한 방향인 것으로 결정할 수 있다.
일 실시예에 따라 복호화부(120)는 제1 블록의 제1 예측 모드에 대응하는 예측 방향이 수직 방향에 유사한 방향인 경우, 동일한 행에 위치하는 제2 블록의 제2 예측 모드는 동일한 것으로 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 제1 블록의 제1 예측 모드에 대응하는 예측 방향이 수평 방향에 유사한 방향인 경우, 동일한 열에 위치하는 제2 블록의 제2 예측 모드는 동일한 것으로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 동일한 행 또는 열에 위치하는 제2 블록들의 제2 인트라 예측 모드 정보에 기초하여, 동일한 행 또는 열에 위치하는 제2 블록들의 제2 예측 모드를 결정할 수 있다. 복호화부(120)는 동일한 행 또는 열에 위치하는 제2 블록들 중 하나의 제2 인트라 예측 모드 정보에 기초하여 동일한 행 또는 열에 위치하는 모든 제2 블록들의 제2 예측 모드를 결정할 수 있다. 또 다른 일 실시예에 따라 복호화부(120)는 동일한 행 또는 열에 위치하는 제2 블록들 중 적어도 하나의 제2 인트라 예측 모드 정보에 대한 소정의 처리(예를 들면, 적어도 하나의 제2 인트라 예측 모드 정보와 관련된 인트라 예측 모드의 인덱스 값을 산술적 처리(평균값, 가중 평균값 등))에 기초하여 동일한 행 또는 열에 위치하는 모든 제2 블록들의 제2 예측 모드를 결정할 수 있다.
도 7은 일 실시예에 따라 현재 제1 블록 또는 현재 제2 블록의 예측 모드를 결정하기 위하여, 주변의 예측 모드를 이용하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 프레임(700)에 포함되는 제1 블록의 제1 예측 모드 또는 제2 블록의 제2 예측 모드를 결정하기 위하여 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보를 이용할 수 있다. 이러한 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보는 제1 블록 또는 제2 블록의 인트라 예측 모드에 대한 인덱스를 직접적으로 나타낼 수 있다. 다만 일 실시예에 따라 영상 복호화 장치(100)는 주변 블록의 인트라 예측 모드에 기초하여 현재 제1 블록 또는 현재 제2 블록의 인트라 예측 모드를 결정할 수 있고, 이러한 경우, 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보는 제1 블록 또는 제2 블록의 주변 블록 중 어떤 블록의 인트라 예측 모드를 이용할 것인지를 나타내는 정보를 포함할 수 있다.
일 실시예에 따라 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보가 11값을 가지는 경우, 현재 제1 블록 또는 현재 제2 블록의 좌측에 인접하는 주변 제1 블록 또는 주변 제2 블록의 인트라 예측 모드로 제1 예측 모드 또는 제2 예측 모드가 결정될 수 있다. 일 실시예에 따라 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보가 00값을 가지는 경우, 현재 제1 블록 또는 현재 제2 블록의 상측에 인접하는 주변 제1 블록 또는 주변 제2 블록의 인트라 예측 모드로 제1 예측 모드 또는 제2 예측 모드가 결정될 수 있다. 일 실시예에 따라 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보가 01값을 가지는 경우, 현재 제1 블록 또는 현재 제2 블록의 왼쪽 또는 상측에 인접하는 주변 제1 블록 또는 주변 제2 블록들의 인트라 예측 모드와는 다른 예측 모드로 제1 예측 모드 또는 제2 예측 모드가 결정될 수 있다. 이하에서는 주변 블록의 인트라 예측 모드를 이용하여 현재 제1 블록 및 현재 제2 블록의 인트라 예측 모드가 결정되는 과정에 대한 설명상 편의를 위하여, 현재 제1 블록 또는 현재 제2 블록을 현재 블록, 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보를 인트라 예측 모드 정보라고 지칭하도록 한다.
도 7을 참조하면, 현재 블록(706)의 인트라 예측 모드를 결정하기 위하여, 인접하는 주변 블록(702 또는 704)의 인트라 예측 모드를 참조할 수 있다. 예를 들면, 현재 블록(706)의 인트라 예측 모드 정보가 00인 경우, 복호화부(120)는 상측에 인접하는 주변 블록(702)의 예측 방향(703)을 이용하는 인트라 예측 모드를 현재 블록의 예측 모드로 결정할 수 있다. 현재 블록(706)의 인트라 예측 모드 정보가 11인 경우, 복호화부(120)는 좌측에 인접하는 주변 블록(704)의 예측 방향(705)을 이용하는 인트라 예측 모드를 현재 블록의 예측 모드로 결정할 수 있다.
또 다른 일 실시예에 따라 현재 블록(706)의 인트라 예측 모드 정보가 01 또는 10인 경우, 복호화부(120)는 상측에 인접하는 주변 블록(702)의 예측 방향(703) 및 좌측에 인접하는 주변 블록(704)의 예측 방향(705)을 조합하여 인트라 예측 모드를 현재 블록의 예측 모드로 결정할 수 있다. 예를 들면, 상측에 인접하는 주변 블록(702)의 예측 방향(703)과 관련된 인트라 예측 모드의 인덱스 및 좌측에 인접하는 주변 블록(704)의 예측 방향(705)과 관련된 인트라 예측 모드의 인덱스의 평균값이 근접하는 인덱스에 대한 인트라 예측 모드로 현재 블록(706)의 예측 모드를 결정할 수도 있다. 일 실시예에 따라 주변 블록(702 또는 704)의 인트라 예측 모드는 방향성 인트라 예측 모드 또는 무방향성 인트라 예측 모드일 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 제1 블록 및 현재 제2 블록의 인트라 예측 모드를 결정하기 위하여, 현재 제1 블록에 인접하는 주변 제1 블록의 인트라 예측 모드를 이용하여 제1 예측 모드를 결정하고, 현재 제2 블록에 인접하는 주변 제2 블록의 인트라 예측 모드를 이용하여 제2 예측 모드를 결정할 수 있다. 또 다른 일 실시예에 따라 영상 복호화 장치(100)는 현재 제1 블록 및 현재 제2 블록의 인트라 예측 모드를 결정하기 위하여, 현재 제1 블록에 인접하는 주변 제1 블록의 인트라 예측 모드를 이용하여 제1 예측 모드를 결정하고, 현재 제2 블록에 대한 제2 인트라 예측 모드 정보가 나타내는 인트라 예측 모드 인덱스에 기초하여 제2 예측 모드를 결정할 수 있다. 또 다른 일 실시예에 따라 영상 복호화 장치(100)는 현재 제1 블록 및 현재 제2 블록의 인트라 예측 모드를 결정하기 위하여, 현재 제1 블록의 제1 인트라 예측 모드 정보가 나타내는 인트라 예측 모드의 인덱스에 기초하여 제1 예측 모드를 결정하고, 현재 제2 블록에 인접하는 주변 제2 블록의 인트라 예측 모드를 이용하여 제2 예측 모드를 결정할 수도 있다.
상술한 실시예들은 영상 복호화 장치(100)가 현재 제1 블록 또는 현재 제2 블록에 인접하는 주변 블록들의 인트라 예측 모드를 참조하는 특징을 설명하기 위한 예에 불과하므로, 상술한 실시예에서 설명한 제1 인트라 예측 모드 및 제2 인트라 예측 모드 값으로 한정하여 해석되어서는 안된다. 주변 블록의 인트라 예측 모드 정보를 이용하는 다양한 실시예들에서는 다양한 인트라 예측 방법에서 mpm index를 이용한 예측 모드 결정 방법과 유사한 방법을 이용할 수 있다.
도 8은 일 실시예에 따라 인트라 예측 모드에서 이용할 수 있는 다양한 예측 방향 및 인덱스를 도시한다.
일 실시예에 따라 현재 제1 블록의 제1 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수와 현재 제2 블록의 제2 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수는 서로 다를 수 있다. 일 실시예에 따라 현재 제1 블록의 제1 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수는 M개일 수 있고, 현재 제2 블록의 제2 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수는 N개(M과 N은 상이)일 수 있다. 일 실시예에 따라 상이한 개수의 인트라 예측 모드가 이용되는 특징은 방향성 인트라 예측 모드 또는 무방향성 인트라 예측 모드를 이용하는 경우에 모두 적용될 수도 있으나, 이하에서는 설명상 편의를 위해 복호화부(120)가 방향성 인트라 예측 모드인 제1 예측 모드 및 제2 예측 모드를 결정하기 위한 과정에 한정하여 설명하도록 한다.
도 8를 참조하면, 복호화부(120)는 제1 인트라 예측 모드 정보 또는 제2 인트라 예측 모드 정보에 기초하여 인트라 예측 모드의 인덱스를 결정함으로써 제1 예측 모드 또는 제2 예측 모드를 결정할 수 있다. 복호화부(120)는 제2 인트라 예측 모드 정보에 기초하여 33개의 예측 방향을 나타내는 인덱스들 중 하나를 이용하는 방향성 인트라 예측 모드를 제2 예측 모드로서 결정할 수 있다. 일 실시예에 따라 복호화부(120)는 제2 예측 모드를 결정하는 과정과 달리, 제1 인트라 예측 모드 정보에 기초하여 9개의 예측 방향을 나타내는 인덱스들(801, 802, 803, 804, 805, 806, 807, 808, 809) 중 하나를 이용하는 방향성 인트라 예측 모드를 제1 예측 모드로서 결정할 수 있다. 일 실시예에 따라 제1 예측 모드 결정 과정에서 고려되는 9개의 예측 방향들은 제2 예측 모드 결정 과정에서 고려되는 33개의 예측 방향 중 일부일 수 있다.
도 9a는 일 실시예에 따라 제2 블록의 제2 예측 모드를 결정하는 과정을 수행할지 여부를 검토하여 예측을 수행하는 과정에 대한 흐름도를 도시한다.
일 실시예에 따라 영상 복호화 장치(100)가 S900단계 및 S902단계에서 수행하는 동작에 대한 특징은 도 2a의 S200단계 및 S202단계에서 수행되는 동작에 대한 특징과 유사할 수 있으므로 자세한 설명은 생략하도록 한다.
S904단계에서 복호화부(120)는 일 실시예에 따라 제1 예측 모드뿐만 아니라 제2 예측 모드를 결정하여 예측을 수행할지를 결정할 수 있다. 일 실시예에 따라 비트스트림 획득부(110)는 제2 예측 모드를 결정하여 예측을 수행할 것인지를 나타내는 플래그를 비트스트림으로부터 획득할 수 있다. 비트스트림 획득부(110)는 제2 예측 모드를 결정하여 예측을 수행할 것인지를 나타내는 플래그를 소정의 데이터 단위(예를 들면, 시퀀스, 프레임, 슬라이스, 슬라이스 세그먼트, 최대부호화단위, 부호화단위 등)마다 비트스트림으로부터 획득할 수 있다.
일 실시예에 따라 제1 예측 모드만을 이용하여 예측을 수행하는 것으로 결정된 경우, 복호화부(120)는 S909단계에서 제1 예측 모드에 기초한 인트라 예측 모드를 수행함으로써 영상을 복호화할 수 있다.
일 실시예에 따라 제1 예측 모드뿐만 아니라 제2 예측 모드도 결정하여 예측을 수행하는 것으로 결정된 경우, 복호화부(120)는 S906단계에서 현재 제1 블록에 포함되는 복수의 제2 블록을 결정할 수 있다. 일 실시예에 따라 비트스트림 획득부(110)는 제2 예측 모드를 결정하여 예측을 수행할 것인지를 나타내는 플래그를 비트스트림으로부터 획득할 수 있고, 복호화부(120)는 제2 예측 모드를 결정하여 예측을 수행할 것인지를 나타내는 플래그에 기초하여 제1 예측 모드뿐만 아니라 제2 예측 모드를 결정하여 예측을 수행할지를 결정할 수 있다.
S908단계 및 S910단계에서 영상 복호화 장치(100)가 수행하는 동작에 대한 특징은 도 2a의 S206단계 및 S208단계에서 수행되는 동작에 대한 특징과 유사할 수 있으므로 자세한 설명은 생략하도록 한다.
영상 복호화 장치(100)와 관련하여 상술한 다양한 실시예들은 개별적인 실시예로서 수행될 수 있을 뿐만 아니라 각 실시예들간의 다양한 조합을 통해서도 수행될 수 있다.
이하에서는 상술한 영상 복호화 장치(100)의 영상 복호화 방법과 관련된 영상 부호화 방법을 수행할 수 있는 영상 부호화 장치(150)에 대하여 설명하도록 한다.
도 1b는 현재 제1 블록에 포함되는 복수개의 제2 블록에 대한 예측 모드를 현재 제1 블록의 예측 모드에 기초하여 결정할 수 있는 영상 부호화 장치(150)에 대한 블록도를 도시한다.
일 실시예에 따라 영상 부호화 장치(150)는 제1 블록의 인트라 예측 모드를 나타내는 제1 인트라 예측 모드 정보 및 제2 블록의 인트라 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 포함하는 비트스트림을 생성하는 비트스트림 생성부(160) 및 영상을 구성하는 적어도 하나의 프레임 중 하나인 현재 프레임에 포함되는 제1 블록 및 제2 블록을 결정하고, 제1 블록에 대한 인트라 예측 방법인 제1 예측 모드 및 제2 블록에 대한 인트라 예측 방법인 제2 예측 모드를 결정하여 영상을 부호화 하는 부호화부(170)를 포함할 수 있다. 일 실시예에 따라 제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보와 관련하여, 제2 예측 모드는 제1 예측 모드에 기초하여 결정된 것일 수 있다. 일 실시예에 따라 부호화부(170)는 제1 블록의 인트라 예측 수행 과정에서 이용된 인트라 예측 모드에 기초하여 제2 블록의 인트라 예측을 수행할 수 있고, 비트스트림 생성부(160)는 이러한 제1 블록에서 수행된 인트라 예측 모드를 나타내는 제1 인트라 예측 모드 정보 및 제2 블록에서 수행된 인트라 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 포함하는 비트스트림을 생성할 수 있다.
도 2b는 일 실시예에 따라 영상 부호화 장치(150)가 현재 제1 블록의 예측 모드에 기초하여 복수개의 제2 블록에 대한 예측 모드를 결정하는 방법에 대한 흐름도를 도시한다.
일 실시예에 따라 부호화부(170)는 S210단계에서 영상에 포함되는 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정할 수 있다. 현재 프레임의 부호화 과정에서 다양한 형태의 블록이 이용될 수 있으며, 부호화부(170)는 다양한 데이터 블록에 기초한 영상 부호화 과정을 수행할 수 있다. 일 실시예에 따라 부호화부(170)는 현재 제1 블록에서 인트라 예측이 수행될지를 결정할 수 있다. 일 실시예에 따라 부호화부(170)는 현재 제1 블록이 포함된 소정의 데이터 단위(예를 들면, 슬라이스)의 타입을 나타내는 정보에 기초하여 현재 제1 블록에서 인트라 예측이 수행될지를 결정할 수 있다. 현재 제1 블록에서 인트라 예측 모드가 수행될지를 결정하는 과정은 종래의 다양한 부호화 방법에서 수행되는 결정 과정에 대응하는 것일 수 있으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 부호화부(170)는 S212단계에서 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행되는 경우, 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정할 수 있다. 일 실시예에 따라 부호화부(170)는 제1 블록 마다 어떠한 인트라 예측이 수행될지를 결정할 수 있다. 제1 블록에는 다양한 타입의 데이터 블록이 포함될 수 있다. 예를 들면, 제1 블록마다 인트라 예측이 수행될지 아니면 인터 예측이 수행될지가 결정될 수 있다. 또 다른 예를 들면, 제1 블록마다 인트라 예측 모드 중 어떠한 타입의 인트라 예측이 수행될지가 결정될 수도 있다.
일 실시예에 따라 영상 부호화 장치(150)는 현재 제1 블록의 예측 모드를 결정할 수 있으며, 비트스트림 생성부(160)는 현재 프레임을 분할하는 제1 블록마다 제1 인트라 예측 모드 정보를 포함하는 비트스트림을 생성할 수 있다. 일 실시예에 따라 제1 인트라 예측 모드 정보는 현재 제1 블록의 인트라 예측 모드를 나타내는 인덱스를 포함할 수 있다.
일 실시예에 따라 영상 부호화 장치(150)는 S214단계에서 현재 제1 블록에 포함되는 복수의 제2 블록을 결정할 수 있다. 현재 프레임을 분할하는 제1 블록과, 제1 블록에 포함되는 적어도 하나의 제2 블록이라는 데이터 블록 간의 관계는 다양한 데이터 블록들간의 포함 관계를 포함할 수 있다.
일 실시예에 따라 제1 블록이 최대부호화단위인 경우, 제1 블록에 포함되는 제2 블록은 최대부호화단위로부터 분할된 부호화단위일 수 있다. 일 실시예에 따라 제1 블록이 부호화단위인 경우, 제1 블록에 포함되는 제2 블록은 부호화단위에 기초하여 결정되는 예측단위 또는 변환단위일 수 있다. 다만 상술한 실시예들은 제1 블록과 제2 블록 간의 포함관계를 설명하기 위한 예시에 해당하므로, 제1 블록 및 제2 블록이 상술한 실시예에 한정하여 해석되어서는 안 되고 상술한 실시예와 유사한 포함관계에 있는 다양한 타입의 데이터 블록이 포함되는 것으로 해석될 수 있다.
일 실시예에 따라 영상 부호화 장치(150)는 S216단계에서 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정할 수 있다.
도 3a는 일 실시예에 따라 제1 블록의 인트라 예측 모드에 기초하여 복수의 제2 블록의 인트라 예측 모드가 결정되는 과정을 도시한다.
일 실시예에 따라 영상 부호화 장치(150)는 현재 제1 블록에서 인트라 예측이 수행되는 경우, 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정할 수 있다. 도 3a를 참조하면, 부호화부(170)는 현재 프레임을 분할하는 제1 블록들 중 하나인 현재 제1 블록(300)에서 인트라 예측이 수행될지를 결정할 수 있으며, 어떤 방식으로 인트라 예측이 수행되는지를 결정할 수 있다. 일 실시예에 따라 제1 블록에서 수행될 수 있는 인트라 예측 모드는 방향성이 있는 인트라 예측 방법 또는 방향성이 없는 인트라 예측일 수 있다. 영상 부호화 장치(150)가 도 3a와 관련하여 수행하는 영상 부호화 방법은, 상술한 영상 복호화 장치(100)가 도 3a와 관련하여 수행하는 영상 복호화 방법과 유사한 방법일 수 있으므로 자세한 설명은 생략한다.
도 3b는 일 실시예에 따라 영상을 분할하는 비-정사각형 형태의 블록에 기초하여 예측 모드가 결정되는 과정을 도시한다.
일 실시예에 따라 영상 부호화 장치(150)의 부호화부(170)는 정사각형 형태의 데이터 단위뿐만 아니라 비-정사각형 형태의 데이터 단위를 이용하여 영상을 부호화할 수 있다. 도 3b를 참조하면, 부호화부(170)는 제2 블록들(330, 332, 334, 336)를 포함하는 현재 제1 블록(320)에서 복수개의 종류의 인트라 예측을 수행할 수 있다.
일 실시예에 따라 제2 블록들(310, 312, 314, 316)과 관련하여 생성되는 제2 인트라 예측 모드 정보는 현재 제1 블록(300)의 인트라 예측 방법과 관련된 것일 수 있다. 일 실시예에 따라 현재 제1 블록(320)에 포함되는 복수의 제2 블록들(330, 332, 334, 336)의 형태는 비-정사각형 형태일 수 있다. 나아가 도 3b에서 도시하는 현재 제1 블록(320)과 같은 형태의 정사각형 형태가 아닌 비-정사각형 형태의 제1 블록이 현재 프레임에 포함될 수도 있다. 비-정사각형 형태의 제1 블록에 포함되는 복수개의 제2 블록들의 형태 역시 정사각형 형태 또는 비-정사각형 형태의 데이터 블록일 수 있다. 즉, 다양한 실시예들에서 이용될 수 있는 제1 블록 및 제2 블록의 형태의 경우, 제1 블록 및 제2 블록은 정사각형 또는 비-정사각형 형태 등 제1 블록과 제2 블록 간의 포함관계를 만족하는 다양한 형태일 수 있다.
일 실시예에 따라 제2 블록들(330, 332, 334, 336)과 관련하여 생성되는 제2 인트라 예측 모드 정보는 현재 제1 블록(320)의 인트라 예측 방법과 관련된 것일 수 있다. 일 실시예에 따라 비-정사각형 형태의 제2 블록들(330, 332, 334, 336)의 제2 예측 모드를 결정하는 방법은 도 3a에서 설명한 방법에 유사한 방법일 수 있으므로 자세한 설명은 생략하도록 한다.
도 3c는 일 실시예에 따라 제1 블록에 포함되는 제2 블록에서 인트라 예측 모드가 결정되는 과정을 구체적으로 도시한 것이다.
일 실시예에 따라 부호화부(170)는 제2 블록 각각에 대한 인트라 예측 모드를 결정할 수 있다. 일 실시예에 따라 제1 블록(350)에서 결정된 인트라 예측 모드가 방향성 인트라 예측 모드로서, 제1 블록(350)의 좌측 경계 및 상측 경계 중 적어도 하나에 인접하는 참조 샘플을 참조하는 인트라 예측 모드가 이용될 수 있다. 이러한 인트라 예측 모드를 기준으로 제2 블록(360)의 인트라 예측 모드가 결정될 수 있으며, 이 경우 제1 블록의 인트라 예측 모드가 기준이 될 수 있다. 이하에서는 설명상 편의를 위하여 제2 블록(360)의 인트라 예측 모드를 결정하기 위하여 이용되는 제1 블록(350)의 인트라 예측 모드를 기준 인트라 예측 모드로 지칭하도록 한다.
일 실시예에 따라 부호화부(170)는 나아가 일 실시예에 따라 부호화부(170)는 제2 블록(360)에서 이용될 수 있는 방향성 인트라 예측 모드의 개수 및 방향은 기준 인트라 예측 모드에 기초하여 결정할 수 있다. 구체적으로, 상술한 표 1과 같이, 제2 블록(360)의 제2 인트라 예측 모드 정보가 00인 경우에는 기준 인트라 예측 모드와 동일한 방향에 위치하는 참조 샘플을 참조하여 인트라 예측을 수행할 수 있다. 일 실시예에 따라 부호화부(170)가 이용하는 제2 인트라 예측 모드 정보가 의미하는 인트라 예측 모드와 관련된 인덱스는, 기준 인트라 예측 모드의 방향에 따라 달라질 수 있다. 즉, 부호화부(170)는 기준 인트라 예측 모드에 따라 결정되는 인덱스(K)와 소정의 임계치(L)를 비교한 결과에 기초하여, 제2 인트라 예측 모드 정보가 나타내는 제2 예측 모드를 다르게 결정할 수 있다. 상술한 표 2에 따라 부호화부(170)는 K 및 L의 비교 결과에 따라 제2 예측 모드를 결정할 수 있고, 비트스트림 생성부(160)는 제2 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 포함하는 비트스트림을 생성할 수 있다. 영상 부호화 장치(150)가 도 3c와 관련하여 수행하는 영상 부호화 방법은, 상술한 영상 복호화 장치(100)가 도 3c와 관련하여 수행하는 영상 복호화 방법이 역순으로 수행되는 유사한 방법일 수 있으므로 자세한 설명은 생략한다.
도 4b는 일 실시예에 따라 현재 제2 블록의 제2 예측 모드를 결정하기 위하여 제1 블록의 제1 예측 모드 및 이전 제2 블록의 제2 예측 모드에 기초하여 결정하는 과정을 나타내는 흐름도를 나타낸다.
일 실시예에 따라 영상 부호화 장치(150)가 S420 내지 S424단계에서 수행하는 동작은 도 2b의 S210 내지 S214단계에서 수행하는 동작에 유사한 동작일 수 있으므로 자세한 설명은 생략하도록 한다.
S426단계에서 부호화부(170)는 일 실시예에 따라 현재 제1 블록의 예측 방향 및 이전 제2 블록과 관련된 예측 방향에 기초하여, 현재 제2 블록에서 이용되는 기준 예측 방향을 결정할 수 있다. 일 실시예에 따라 부호화부(170)는 현재 제1 블록에 포함되는 복수개의 제2 블록이 처리되는 순서를 결정하여 부호화를 수행할 수 있다. 제2 블록이 처리되는 순서는 미리 결정된 순서일 수 있으며, 이러한 순서는 현재 제1 블록에 포함되는 복수개의 제2 블록의 형태에 따라 다양한 순서일 수 있다. 예를 들면 복수개의 제2 블록이 동일한 수의 행 및 열로 현재 제1 블록를 분할하는 형태인 경우에는 Z-스캔오더(Z-scan order)에 따라 처리될 수 있다. 복수개의 제2 블록이 현재 제1 블록을 형 또는 열 방향으로 분할하는 형태인 경우에는 현재 제1 블록을 분할하는 방향에 수직한 방향으로 처리될 수 있다. 부호화부(170)는 일 실시예에 따라 결정된 제2 블록의 처리 순서를 기준으로 이미 처리된 이전 제2 블록과 관련된 예측 방향을 이용하여 현재 제2 블록의 제2 예측 모드를 결정할 수 있다.
S428단계에서 영상 부호화 장치(150)는 일 실시예에 따라 기준 예측 방향을 포함하는 복수의 예측 방향 중 하나를 이용하는 예측 모드를 현재 제2 블록에 대한 제2 예측 모드로서 결정할 수 있다.
S430단계에서 영상 복호화 장치(100)는 일 실시예에 따라 제1 예측 모드 및 제2 예측 모드에 기초한 인트라 예측을 수행하여 영상을 부호화할 수 있다.
도 4c, 도 4d, 도 4e와 관련하여 영상 부호화 장치(150)가 수행할 수 있는 영상 부호화 방법은, 상술한 영상 복호화 장치(100)가 도 4c, 도 4d, 도 4e와 관련하여 수행하는 영상 복호화 방법이 역순으로 수행되는 유사한 방법일 수 있으므로 자세한 설명은 생략한다.
도 5b는 일 실시예에 따라 현재 제1 블록에서 방향성 인트라 예측이 수행되는지에 기초하여 제2 블록들의 제2 예측 모드가 결정되는 과정을 나타내는 흐름도이다.
일 실시예에 따라 영상 부호화 장치(150)가 S520단계 내지 S524단계에서 수행하는 동작에 대한 특징은 도 2b의 S210단계 내지 S214단계에서 수행되는 동작에 대한 특징과 유사할 수 있으므로 자세한 설명은 생략하도록 한다.
S526단계에서 영상 부호화 장치(150)는 S522단계에서 결정된 제1 예측 모드가 방향성 인트라 예측 모드인지 여부를 결정할 수 있다. 방향성 인트라 예측 모드란 제1 블록에 인접하는 참조샘플을 이용하는 예측 동작이, 인트라 예측 모드의 인덱스와 관련된 특정 방향으로 수행되는 인트라 예측 모드일 수 있다. 이에 반해 무방향성 인트라 예측 모드란 제1 블록에 인접하는 참조 샘플을 이용하여 인트라 예측을 수행하되 특정한 방향에 따라 예측이 수행되지 않는 것이 아니라 전체적으로 수행되는 인트라 예측 모드일 수 있다. 일 실시예에 따라 무방향성 인트라 예측 모드에는 DC 모드, Planar 모드 등이 포함될 수 있으며, 방향성 인트라 예측 모드에는 다양한 예측 방향을 이용할 수 있는 Angular모드가 포함될 수 있다.
일 실시예에 따라 부호화부(170)는 제1 블록에서 수행되는 예측 모드가 방향성 인트라 예측 모드인지를 결정할 수 있고 비트스트림 생성부(160)는 제1 블록의 예측 모드에 대한 제1 인트라 예측 모드 정보를 포함하는 비트스트림을 생성할 수 있다. 일 실시예에 따라 제1 인트라 예측 모드 정보는 인트라 예측 모드를 구분하기 위한 인덱스를 포함하는 정보일 수 있다.
일 실시예에 따라 제1 예측 모드가 방향성 인트라 예측 모드인 것으로 결정된 경우, 부호화부(170)는 S528 단계에서 복수의 제2 블록에서 수행될 방향성 인트라 예측 모드를 나타내는 제2 예측 모드를 결정할 수 있다. 즉, 복수의 제2 블록이 포함되는 제1 블록에 대한 제1 예측 모드가 방향성 인트라 예측 모드인 경우, 부호화부(170)는 제2 블록에 대한 제2 예측 모드는 방향성 인트라 예측 모드인 것으로 결정할 수 있다.
일 실시예에 따라 제1 예측 모드가 무방향성 인트라 예측 모드인 것으로 결정된 경우, 부호화부(170)는 S530 단계에서 복수의 제2 블록에서 수행될 무방향성 인트라 예측 모드를 나타내는 제2 예측 모드를 결정할 수 있다. 즉, 복수의 제2 블록이 포함되는 제1 블록에 대한 제1 예측 모드가 무방향성 인트라 예측 모드인 경우, 부호화부(170)는 제2 예측 모드는 방향성 인트라 예측 모드인 것으로 결정할 수 있다. 이러한 경우 영상 부호화 장치(150)가 복수의 제2 블록의 제2 예측 모드는 서로 다른 예측 모드로 결정하더라도 비트스트림 생성부(160)에 의해 생성되는 제2 인트라 예측 모드 정보는 서로 동일할 수 있다.
S532단계에서 영상 부호화 장치(150)는 S522단계에서 결정된 제1 예측 모드 및 S528단계 또는 S530단계에서 결정된 제2 예측 모드 중 적어도 하나에 기초하여 인트라 예측을 수행함으로써 영상을 부호화할 수 있다.
도 6은 일 실시예에 따라 제1 블록에서 분할된 제2 블록들의 행 또는 열에 기초하여 제2 예측 모드를 결정하는 과정을 도시한다.
도 6을 참조하면, 일 실시예에 따라 영상 부호화 장치(150)는 제1 블록(600)의 예측 방향에 기초하여, 제1 블록(600)에 포함되는 복수개의 제2 블록(610, 612, 614, 616)의 제2 예측 모드를 결정할 수 있으며, 이 경우 복수개의 제2 블록의 제2 예측 모드는 복수개의 제2 블록(610, 612, 614, 616)의 제1 블록(600) 내의 위치를 기준으로 결정될 수 있다. 일 실시예에 따라 제1 블록(600)의 제1 예측 모드에 따라 예측이 수행되는 예측 방향(602, 606 등)이 결정될 수 있다. 제1 블록(600)에 포함되는 복수개의 제2 블록(610, 612, 614, 616)은 제1 블록(600)의 높이 및 너비를 분할하는 형태로 결정될 수 있다. 도 6과 관련하여 영상 부호화 장치(150)가 수행할 수 있는 영상 부호화 방법은, 상술한 영상 복호화 장치(100)가 도 6과 관련하여 수행하는 영상 복호화 방법이 역순으로 수행되는 유사한 방법일 수 있으므로 자세한 설명은 생략한다.
도 7은 일 실시예에 따라 현재 제1 블록 또는 제2 블록의 예측 모드를 결정하기 위하여, 주변의 예측 모드를 이용하는 과정을 도시한다.
일 실시예에 따라 영상 부호화 장치(150)는 주변 블록의 인트라 예측 모드에 기초하여 현재 제1 블록 또는 현재 제2 블록의 인트라 예측 모드를 결정할 수 있다. 도 7과 관련하여 영상 부호화 장치(150)가 수행할 수 있는 영상 부호화 방법은, 상술한 영상 복호화 장치(100)가 도 7과 관련하여 수행하는 영상 복호화 방법이 역순으로 수행되는 유사한 방법일 수 있으므로 자세한 설명은 생략한다.
도 8은 일 실시예에 따라 인트라 예측 모드에서 이용할 수 있는 다양한 예측 방향 및 인덱스를 도시한다.
일 실시예에 따라 현재 제1 블록의 제1 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수와 현재 제2 블록의 제2 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수는 서로 다를 수 있다. 일 실시예에 따라 현재 제1 블록의 제1 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수는 M개일 수 있고, 현재 제2 블록의 제2 예측 모드에서 이용될 수 있는 인트라 예측 모드의 개수는 N개(M과 N은 상이)일 수 있다. 일 실시예에 따라 상이한 개수의 인트라 예측 모드가 이용되는 특징은 방향성 인트라 예측 모드 또는 무방향성 인트라 예측 모드를 이용하는 경우에 모두 적용될 수도 있으나, 이하에서는 설명상 편의를 위해 부호화부(170)가 방향성 인트라 예측 모드인 제1 예측 모드 및 제2 예측 모드를 결정하기 위한 과정에 한정하여 설명하도록 한다.
도 8를 참조하면, 부호화부(170)는 인트라 예측 모드의 인덱스에 기초하여 제1 예측 모드 또는 제2 예측 모드를 결정할 수 있다. 부호화부(170)는 33개의 예측 방향을 나타내는 인덱스들 중 하나를 이용하는 방향성 인트라 예측 모드를 제2 예측 모드로서 결정할 수 있다. 일 실시예에 따라 부호화부(170)는 제2 예측 모드를 결정하는 과정과 달리, 9개의 예측 방향을 나타내는 인덱스들(801, 802, 803, 804, 805, 806, 807, 808, 809) 중 하나를 이용하는 방향성 인트라 예측 모드를 제1 예측 모드로서 결정할 수 있다. 일 실시예에 따라 제1 예측 모드 결정 과정에서 고려되는 9개의 예측 방향들은 제2 예측 모드 결정 과정에서 고려되는 33개의 예측 방향 중 일부일 수 있다.
도 9b는 일 실시예에 따라 제2 블록의 제2 예측 모드를 결정하는 과정을 수행할지 여부를 검토하여 예측을 수행하는 흐름도를 도시한다.
일 실시예에 따라 영상 부호화 장치(150)가 S920단계 및 S922단계에서 수행하는 동작에 대한 특징은 도 2b의 S210단계 및 S212단계에서 수행되는 동작에 대한 특징과 유사할 수 있으므로 자세한 설명은 생략하도록 한다.
S924단계에서 부호화부(170)는 일 실시예에 따라 제1 예측 모드뿐만 아니라 제2 예측 모드를 결정하여 예측을 수행할지를 결정할 수 있다. 비트스트림 생성부(160)는 제2 예측 모드를 결정하여 예측을 수행할 것인지를 나타내는 플래그를 포함하는 비트스트림을 소정의 데이터 단위(예를 들면, 시퀀스, 프레임, 슬라이스, 슬라이스 세그먼트, 최대부호화단위, 부호화단위 등)마다 생성할 수 있다.
일 실시예에 따라 제1 예측 모드만을 이용하여 예측을 수행하는 것으로 결정된 경우, 부호화부(170)는 S909단계에서 제1 예측 모드에 기초한 인트라 예측 모드를 수행함으로써 영상을 부호화할 수 있다.
일 실시예에 따라 제1 예측 모드뿐만 아니라 제2 예측 모드도 결정하여 예측을 수행하는 것으로 결정된 경우, 부호화부(170)는 S906단계에서 현재 제1 블록에 포함되는 복수의 제2 블록을 결정할 수 있다.
S928단계 및 S930단계에서 영상 부호화 장치(150)가 수행하는 동작에 대한 특징은 도 2b의 S216단계 및 S218단계에서 수행되는 동작에 대한 특징과 유사할 수 있으므로 자세한 설명은 생략하도록 한다.
이하, 도 10 내지 도 23을 참조하여 일 실시예에 따른 영상 복호화 장치(100)가 영상을 복호화하는 과정에서 이용할 수 있는 데이터 단위를 결정하는 방법을 설명하도록 한다. 영상 부호화 장치(150)의 동작은 후술하는 영상 복호화 장치(100)의 동작에 대한 다양한 실시예와 유사하거나 반대되는 동작이 될 수 있다.
도 10은 일 실시예에 따라 영상 복호화 장치(100)가 현재 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보를 이용하여 부호화 단위의 형태를 결정할 수 있고, 분할 형태 정보를 이용하여 부호화 단위가 어떤 형태로 분할되는지를 결정할 수 있다. 즉, 영상 복호화 장치(100)가 이용하는 블록 형태 정보가 어떤 블록 형태를 나타내는지에 따라 분할 형태 정보가 나타내는 부호화 단위의 분할 방법이 결정될 수 있다.
일 실시예에 따라, 영상 복호화 장치(100)는 현재 부호화 단위가 정사각형 형태임을 나타내는 블록 형태 정보를 이용할 수 있다. 예를 들어 영상 복호화 장치(100)는 분할 형태 정보에 따라 정사각형의 부호화 단위를 분할하지 않을지, 수직으로 분할할지, 수평으로 분할할지, 4개의 부호화 단위로 분할할지 등을 결정할 수 있다. 도 10을 참조하면, 현재 부호화 단위(1000)의 블록 형태 정보가 정사각형의 형태를 나타내는 경우, 복호화부(1030)는 분할되지 않음을 나타내는 분할 형태 정보에 따라 현재 부호화 단위(1000)와 동일한 크기를 가지는 부호화 단위(1010a)를 분할하지 않거나, 소정의 분할방법을 나타내는 분할 형태 정보에 기초하여 분할된 부호화 단위(1010b, 1010c, 1010d 등)를 결정할 수 있다.
도 10을 참조하면 영상 복호화 장치(100)는 일 실시예에 따라 수직방향으로 분할됨을 나타내는 분할 형태 정보에 기초하여 현재 부호화 단위(1000)를 수직방향으로 분할한 두개의 부호화 단위(1010b)를 결정할 수 있다. 영상 복호화 장치(100)는 수평방향으로 분할됨을 나타내는 분할 형태 정보에 기초하여 현재 부호화 단위(1000)를 수평방향으로 분할한 두개의 부호화 단위(1010c)를 결정할 수 있다. 영상 복호화 장치(100)는 수직방향 및 수평방향으로 분할됨을 나타내는 분할 형태 정보에 기초하여 현재 부호화 단위(1000)를 수직방향 및 수평방향으로 분할한 네개의 부호화 단위(1010d)를 결정할 수 있다. 다만 정사각형의 부호화 단위가 분할될 수 있는 분할 형태는 상술한 형태로 한정하여 해석되어서는 안되고, 분할 형태 정보가 나타낼 수 있는 다양한 형태가 포함될 수 있다. 정사각형의 부호화 단위가 분할되는 소정의 분할 형태들은 이하에서 다양한 실시예를 통해 구체적으로 설명하도록 한다.
도 11은 일 실시예에 따라 영상 복호화 장치(100)가 비-정사각형의 형태인 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위가 비-정사각형 형태임을 나타내는 블록 형태 정보를 이용할 수 있다. 영상 복호화 장치(100)는 분할 형태 정보에 따라 비-정사각형의 현재 부호화 단위를 분할하지 않을지 소정의 방법으로 분할할지 여부를 결정할 수 있다. 도 11을 참조하면, 현재 부호화 단위(1100 또는 1150)의 블록 형태 정보가 비-정사각형의 형태를 나타내는 경우, 영상 복호화 장치(100)는 분할되지 않음을 나타내는 분할 형태 정보에 따라 현재 부호화 단위(1100 또는 1150)와 동일한 크기를 가지는 부호화 단위(1110 또는 1160)를 분할하지 않거나, 소정의 분할방법을 나타내는 분할 형태 정보에 따라 기초하여 분할된 부호화 단위(1120a, 1120b, 1130a, 1130b, 1130c, 1170a, 1170b, 1180a, 1180b, 1180c)를 결정할 수 있다. 비-정사각형의 부호화 단위가 분할되는 소정의 분할 방법은 이하에서 다양한 실시예를 통해 구체적으로 설명하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 분할 형태 정보를 이용하여 부호화 단위가 분할되는 형태를 결정할 수 있고, 이 경우 분할 형태 정보는 부호화 단위가 분할되어 생성되는 적어도 하나의 부호화 단위의 개수를 나타낼 수 있다. 도 11를 참조하면 분할 형태 정보가 두개의 부호화 단위로 현재 부호화 단위(1100 또는 1150)가 분할되는 것을 나타내는 경우, 영상 복호화 장치(100)는 분할 형태 정보에 기초하여 현재 부호화 단위(1100 또는 1150)를 분할하여 현재 부호화 단위에 포함되는 두개의 부호화 단위(1120a, 11420b, 또는 1170a, 1170b)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)가 분할 형태 정보에 기초하여 비-정사각형의 형태의 현재 부호화 단위(1100 또는 1150)를 분할하는 경우, 비-정사각형의 현재 부호화 단위(1100 또는 1150)의 긴 변의 위치를 고려하여 현재 부호화 단위를 분할할 수 있다. 예를 들면, 영상 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)의 형태를 고려하여 현재 부호화 단위(1100 또는 1150)의 긴 변을 분할하는 방향으로 현재 부호화 단위(1100 또는 1150)를 분할하여 복수개의 부호화 단위를 결정할 수 있다.
일 실시예에 따라, 분할 형태 정보가 홀수개의 블록으로 부호화 단위를 분할하는 것을 나타내는 경우, 영상 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)에 포함되는 홀수개의 부호화 단위를 결정할 수 있다. 예를 들면, 분할 형태 정보가 3개의 부호화 단위로 현재 부호화 단위(1100 또는 1150)를 분할하는 것을 나타내는 경우, 영상 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)를 3개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c)로 분할할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)에 포함되는 홀수개의 부호화 단위를 결정할 수 있으며, 결정된 부호화 단위들의 크기 모두가 동일하지는 않을 수 있다. 예를 들면, 결정된 홀수개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c) 중 소정의 부호화 단위(1130b 또는 1180b)의 크기는 다른 부호화 단위(1130a, 1130c, 1180a, 1180c)들과는 다른 크기를 가질 수도 있다. 즉, 현재 부호화 단위(1100 또는 1150)가 분할되어 결정될 수 있는 부호화 단위는 복수의 종류의 크기를 가질 수 있고, 경우에 따라서는 홀수개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c)가 각각 서로 다른 크기를 가질 수도 있다.
일 실시예에 따라 분할 형태 정보가 홀수개의 블록으로 부호화 단위가 분할되는 것을 나타내는 경우, 영상 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)에 포함되는 홀수개의 부호화 단위를 결정할 수 있고, 나아가 영상 복호화 장치(100)는 분할하여 생성되는 홀수개의 부호화 단위들 중 적어도 하나의 부호화 단위에 대하여 소정의 제한을 둘 수 있다. 도 11을 참조하면 영상 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)가 분할되어 생성된 3개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c)들 중 중앙에 위치하는 부호화 단위(1130b, 1180b)에 대한 복호화 과정을 다른 부호화 단위(1130a, 1130c, 1180a, 1180c)와 다르게 할 수 있다. 예를 들면, 영상 복호화 장치(100)는 중앙에 위치하는 부호화 단위(1130b, 1180b)에 대하여는 다른 부호화 단위(1130a, 1130c, 1180a, 1180c)와 달리 더 이상 분할되지 않도록 제한하거나, 소정의 횟수만큼만 분할되도록 제한할 수 있다.
도 12는 일 실시예에 따라 영상 복호화 장치(100)가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 부호화 단위를 분할하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 정사각형 형태의 제1 부호화 단위(1200)를 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다. 일 실시예에 따라 분할 형태 정보가 수평 방향으로 제1 부호화 단위(1200)를 분할하는 것을 나타내는 경우, 영상 복호화 장치(100)는 제1 부호화 단위(1200)를 수평 방향으로 분할하여 제2 부호화 단위(1210)를 결정할 수 있다. 일 실시예에 따라 이용되는 제1 부호화 단위, 제2 부호화 단위, 제3 부호화 단위는 부호화 단위 간의 분할 전후 관계를 이해하기 위해 이용된 용어이다. 예를 들면, 제1 부호화 단위를 분할하면 제2 부호화 단위가 결정될 수 있고, 제2 부호화 단위가 분할되면 제3 부호화 단위가 결정될 수 있다. 이하에서는 이용되는 제1 부호화 단위, 제2 부호화 단위 및 제3 부호화 단위의 관계는 상술한 특징에 따르는 것으로 이해될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 결정된 제2 부호화 단위(1210)를 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다. 도 12를 참조하면 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1200)를 분할하여 결정된 비-정사각형의 형태의 제2 부호화 단위(1210)를 적어도 하나의 제3 부호화 단위(1220a, 1220b, 1220c, 1220d 등)로 분할하거나 제2 부호화 단위(1210)를 분할하지 않을 수 있다. 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 획득할 수 있고 영상 복호화 장치(100)는 획득한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1200)를 분할하여 다양한 형태의 복수개의 제2 부호화 단위(예를 들면, 1210)를 분할할 수 있으며, 제2 부호화 단위(1210)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1200)가 분할된 방식에 따라 분할될 수 있다. 일 실시예에 따라, 제1 부호화 단위(1200)가 제1 부호화 단위(1200)에 대한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제2 부호화 단위(1210)로 분할된 경우, 제2 부호화 단위(1210) 역시 제2 부호화 단위(1210)에 대한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제3 부호화 단위(예를 들면, 1220a, 1220b, 1220c, 1220d 등)으로 분할될 수 있다. 즉, 부호화 단위는 부호화 단위 각각에 관련된 분할 형태 정보 및 블록 형태 정보 중 적어도 하나에 기초하여 재귀적으로 분할될 수 있다. 따라서 비-정사각형 형태의 부호화 단위에서 정사각형의 부호화 단위가 결정될 수 있고, 이러한 정사각형 형태의 부호화 단위가 재귀적으로 분할되어 비-정사각형 형태의 부호화 단위가 결정될 수도 있다. 도 12를 참조하면, 비-정사각형 형태의 제2 부호화 단위(1210)가 분할되어 결정되는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 소정의 부호화 단위(예를 들면, 가운데에 위치하는 부호화 단위 또는 정사각형 형태의 부호화 단위)는 재귀적으로 분할될 수 있다. 일 실시예에 따라 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 하나인 정사각형 형태의 제3 부호화 단위(1220c)는 수평 방향으로 분할되어 복수개의 제4 부호화 단위로 분할될 수 있다. 복수개의 제4 부호화 단위 중 하나인 비-정사각형 형태의 제4 부호화 단위(1240)는 다시 복수개의 부호화 단위들로 분할될 수 있다. 예를 들면, 비-정사각형 형태의 제4 부호화 단위(1240)는 홀수개의 부호화 단위(1250a, 1250b, 1250c)로 다시 분할될 수도 있다.
부호화 단위의 재귀적 분할에 이용될 수 있는 방법에 대하여는 다양한 실시예를 통해 후술하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제3 부호화 단위(1220a, 1220b, 1220c, 1220d 등) 각각을 부호화 단위들로 분할하거나 제2 부호화 단위(1210)를 분할하지 않는 것으로 결정할 수 있다. 영상 복호화 장치(100)는 일 실시예에 따라 비-정사각형 형태의 제2 부호화 단위(1210)를 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d)로 분할할 수 있다. 영상 복호화 장치(100)는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 소정의 제3 부호화 단위에 대하여 소정의 제한을 둘 수 있다. 예를 들면 영상 복호화 장치(100)는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 가운데에 위치하는 부호화 단위(1220c)에 대하여는 더 이상 분할되지 않는 것으로 제한하거나 또는 설정 가능한 횟수로 분할되어야 하는 것으로 제한할 수 있다. 도 12를 참조하면, 영상 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1210)에 포함되는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d)들 중 가운데에 위치하는 부호화 단위(1220c)는 더 이상 분할되지 않거나, 소정의 분할 형태로 분할(예를 들면 4개의 부호화 단위로만 분할하거나 제2 부호화 단위(1210)가 분할된 형태에 대응하는 형태로 분할)되는 것으로 제한하거나, 소정의 횟수로만 분할(예를 들면 n회만 분할, n>0)하는 것으로 제한할 수 있다. 다만 가운데에 위치한 부호화 단위(1220c)에 대한 상기 제한은 단순한 실시예들에 불과하므로 상술한 실시예들로 제한되어 해석되어서는 안되고, 가운데에 위치한 부호화 단위(1220c)가 다른 부호화 단위(1220b, 1220d)와 다르게 복호화 될 수 있는 다양한 제한들을 포함하는 것으로 해석되어야 한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위를 분할하기 위해 이용되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 현재 부호화 단위 내의 소정의 위치에서 획득할 수 있다.
도 13은 일 실시예에 따라 영상 복호화 장치(100)가 홀수개의 부호화 단위들 중 소정의 부호화 단위를 결정하기 위한 방법을 도시한다. 도 13을 참조하면, 현재 부호화 단위(1300)의 블록 형태 정보 및 분할 형태 정보 중 적어도 하나는 현재 부호화 단위(1300)에 포함되는 복수개의 샘플 중 소정 위치의 샘플(예를 들면, 가운데에 위치하는 샘플(1340))에서 획득될 수 있다. 다만 이러한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나가 획득될 수 있는 현재 부호화 단위(1300) 내의 소정 위치가 도 13에서 도시하는 가운데 위치로 한정하여 해석되어서는 안되고, 소정 위치에는 현재 부호화 단위(1300)내에 포함될 수 있는 다양한 위치(예를 들면, 최상단, 최하단, 좌측, 우측, 좌측상단, 좌측하단, 우측상단 또는 우측하단 등)가 포함될 수 있는 것으로 해석되어야 한다. 영상 복호화 장치(100)는 소정 위치로부터 획득되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 획득하여 현재 부호화 단위를 다양한 형태 및 크기의 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위가 소정의 개수의 부호화 단위들로 분할된 경우 그 중 하나의 부호화 단위를 선택할 수 있다. 복수개의 부호화 단위들 중 하나를 선택하기 위한 방법은 다양할 수 있으며, 이러한 방법들에 대한 설명은 이하의 다양한 실시예를 통해 후술하도록 한다.
일 실시예에 따라 영상 복호화 장치(100) 는 현재 부호화 단위를 복수개의 부호화 단위들로 분할하고, 소정 위치의 부호화 단위를 결정할 수 있다.
도 13은 일 실시예에 따라 영상 복호화 장치(100)가 홀수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위한 방법을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 홀수개의 부호화 단위들 중 가운데에 위치하는 부호화 단위를 결정하기 위하여 홀수개의 부호화 단위들 각각의 위치를 나타내는 정보를 이용할 수 있다. 도 13을 참조하면, 영상 복호화 장치(100)는 현재 부호화 단위(1300)를 분할하여 홀수개의 부호화 단위들(1320a, 1320b, 1320c)을 결정할 수 있다. 영상 복호화 장치(100)는 홀수개의 부호화 단위들(1320a, 1320b, 1320c)의 위치에 대한 정보를 이용하여 가운데 부호화 단위(1320b)를 결정할 수 있다. 예를 들면 영상 복호화 장치(100)는 부호화 단위들(1320a, 1320b, 1320c)에 포함되는 소정의 샘플의 위치를 나타내는 정보에 기초하여 부호화 단위들(1320a, 1320b, 1320c)의 위치를 결정함으로써 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다. 구체적으로, 영상 복호화 장치(100)는 부호화 단위들(1320a, 1320b, 1320c)의 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 정보에 기초하여 부호화 단위(1320a, 1320b, 1320c)의 위치를 결정함으로써 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다.
일 실시예에 따라 부호화 단위(1320a, 1320b, 1320c)에 각각 포함되는 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 정보는 부호화 단위(1320a, 1320b, 1320c)의 픽쳐 내에서의 위치 또는 좌표에 대한 정보를 포함할 수 있다. 일 실시예에 따라 부호화 단위(1320a, 1320b, 1320c)에 각각 포함되는 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 정보는 현재 부호화 단위(1300)에 포함되는 부호화단위(1320a, 1320b, 1320c)들의 너비 또는 높이를 나타내는 정보를 포함할 수 있고, 이러한 너비 또는 높이는 부호화 단위(1320a, 1320b, 1320c)의 픽쳐 내에서의 좌표 간의 차이를 나타내는 정보에 해당할 수 있다. 즉, 영상 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c)의 픽쳐 내에서의 위치 또는 좌표에 대한 정보를 직접이용하거나 좌표간의 차이값에 대응하는 부호화 단위의 너비 또는 높이에 대한 정보를 이용함으로써 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다.
일 실시예에 따라, 상단 부호화 단위(1320a)의 좌측 상단의 샘플(1330a)의 위치를 나타내는 정보는 (xa, ya) 좌표를 나타낼 수 있고, 가운데 부호화 단위(1320b)의 좌측 상단의 샘플(1330b)의 위치를 나타내는 정보는 (xb, yb) 좌표를 나타낼 수 있고, 하단 부호화 단위(1320c)의 좌측 상단의 샘플(1330c)의 위치를 나타내는 정보는 (xc, yc) 좌표를 나타낼 수 있다. 영상 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c)에 각각 포함되는 좌측 상단의 샘플(1330a, 1330b, 1330c)의 좌표를 이용하여 가운데 부호화 단위(1320b)를 결정할 수 있다. 예를 들면, 좌측 상단의 샘플(1330a, 1330b, 1330c)의 좌표를 오름차순 또는 내림차순으로 정렬하였을 때, 가운데에 위치하는 샘플(1330b)의 좌표인 (xb, yb)를 포함하는 부호화 단위(1320b)를 현재 부호화 단위(1300)가 분할되어 결정된 부호화 단위(1320a, 1320b, 1320c) 중 가운데에 위치하는 부호화 단위로 결정할 수 있다. 다만 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 좌표는 픽쳐 내에서의 절대적인 위치를 나타내는 좌표를 나타낼 수 있고, 나아가 상단 부호화 단위(1320a)의 좌측 상단의 샘플(1330a)의 위치를 기준으로, 가운데 부호화 단위(1320b)의 좌측 상단의 샘플(1330b)의 상대적 위치를 나타내는 정보인 (dxb, dyb)좌표, 하단 부호화 단위(1320c)의 좌측 상단의 샘플(1330c)의 상대적 위치를 나타내는 정보인 (dxc, dyc)좌표를 이용할 수도 있다. 또한 부호화 단위에 포함되는 샘플의 위치를 나타내는 정보로서 해당 샘플의 좌표를 이용함으로써 소정 위치의 부호화 단위를 결정하는 방법이 상술한 방법으로 한정하여 해석되어서는 안되고, 샘플의 좌표를 이용할 수 있는 다양한 산술적 방법으로 해석되어야 한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위(1300)를 복수개의 부호화 단위(1320a, 1320b, 1320c)로 분할할 수 있고, 부호화 단위(1320a, 1320b, 1320c)들 중 소정의 기준에 따라 부호화 단위를 선택할 수 있다. 예를 들면, 영상 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c) 중 크기가 다른 부호화 단위(1320b)를 선택할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 상단 부호화 단위(1320a)의 좌측 상단의 샘플(1330a)의 위치를 나타내는 정보인 (xa, ya) 좌표, 가운데 부호화 단위(1320b)의 좌측 상단의 샘플(1330b)의 위치를 나타내는 정보인 (xb, yb) 좌표, 하단 부호화 단위(1320c)의 좌측 상단의 샘플(1330c)의 위치를 나타내는 정보인 (xc, yc) 좌표를 이용하여 부호화 단위(1320a, 1320b, 1320c) 각각의 너비 또는 높이를 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c)의 위치를 나타내는 좌표인 (xa, ya), (xb, yb), (xc, yc)를 이용하여 부호화 단위(1320a, 1320b, 1320c) 각각의 크기를 결정할 수 있다.
일 실시예에 따라, 영상 복호화 장치(100)는 상단 부호화 단위(1320a)의 너비를 xb-xa로 결정할 수 있고 높이를 yb-ya로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 가운데 부호화 단위(1320b)의 너비를 xc-xb로 결정할 수 있고 높이를 yc-yb로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 하단 부호화 단위의 너비 또는 높이는 현재 부호화 단위의 너비 또는 높이와 상단 부호화 단위(1320a) 및 가운데 부호화 단위(1320b)의 너비 및 높이를 이용하여 결정할 수 있다. 영상 복호화 장치(100)는 결정된 부호화 단위(1320a, 1320b, 1320c)의 너비 및 높이에 기초하여 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정할 수 있다. 도 13을 참조하면, 영상 복호화 장치(100)는 상단 부호화 단위(1320a) 및 하단 부호화 단위(1320c)의 크기와 다른 크기를 가지는 가운데 부호화 단위(1320b)를 소정 위치의 부호화 단위로 결정할 수 있다. 다만 상술한 영상 복호화 장치(100)가 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정하는 과정은 샘플 좌표에 기초하여 결정되는 부호화 단위의 크기를 이용하여 소정 위치의 부호화 단위를 결정하는 일 실시예에 불과하므로, 소정의 샘플 좌표에 따라 결정되는 부호화 단위의 크기를 비교하여 소정 위치의 부호화 단위를 결정하는 다양한 과정이 이용될 수 있다.
다만 부호화 단위의 위치를 결정하기 위하여 고려하는 샘플의 위치는 상술한 좌측 상단으로 한정하여 해석되어서는 안되고 부호화 단위에 포함되는 임의의 샘플의 위치에 대한 정보가 이용될 수 있는 것으로 해석될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위의 형태를 고려하여, 현재 부호화 단위가 분할되어 결정되는 홀수개의 부호화 단위들 중 소정 위치의 부호화 단위를 선택할 수 있다. 예를 들면, 현재 부호화 단위가 너비가 높이보다 긴 비-정사각형 형태라면 영상 복호화 장치(100)는 수평 방향에 따라 소정 위치의 부호화 단위를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 수평 방향으로 위치를 달리 하는 부호화 단위들 중 하나를 결정하여 해당 부호화 단위에 대한 제한을 둘 수 있다. 현재 부호화 단위가 높이가 너비보다 긴 비-정사각형 형태라면 영상 복호화 장치(100)는 수직 방향에 따라 소정 위치의 부호화 단위를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 수직 방향으로 위치를 달리 하는 부호화 단위들 중 하나를 결정하여 해당 부호화 단위에 대한 제한을 둘 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 짝수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여 짝수개의 부호화 단위들 각각의 위치를 나타내는 정보를 이용할 수 있다. 영상 복호화 장치(100)는 현재 부호화 단위를 분할하여 짝수개의 부호화 단위들을 결정할 수 있고 짝수개의 부호화 단위들의 위치에 대한 정보를 이용하여 소정 위치의 부호화 단위를 결정할 수 있다. 이에 대한 구체적인 과정은 도 13에서 상술한 홀수개의 부호화 단위들 중 소정 위치(예를 들면, 가운데 위치)의 부호화 단위를 결정하는 과정에 대응하는 과정일 수 있으므로 생략하도록 한다.
일 실시예에 따라, 비-정사각형 형태의 현재 부호화 단위를 복수개의 부호화 단위로 분할한 경우, 복수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여 분할 과정에서 소정 위치의 부호화 단위에 대한 소정의 정보를 이용할 수 있다. 예를 들면 영상 복호화 장치(100)는 현재 부호화 단위가 복수개로 분할된 부호화 단위들 중 가운데에 위치하는 부호화 단위를 결정하기 위하여 분할 과정에서 가운데 부호화 단위에 포함된 샘플에 저장된 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용할 수 있다.
도 13을 참조하면 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 현재 부호화 단위(1300)를 복수개의 부호화 단위들(1320a, 1320b, 1320c)로 분할할 수 있으며, 복수개의 부호화 단위들(1320a, 1320b, 1320c) 중 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다. 나아가 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나가 획득되는 위치를 고려하여, 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다. 즉, 현재 부호화 단위(1300)의 블록 형태 정보 및 분할 형태 정보 중 적어도 하나는 현재 부호화 단위(1300)의 가운데에 위치하는 샘플(1340)에서 획득될 수 있으며, 상기 블록 형태 정보 및 상기 분할 형태 정보 중 적어도 하나에 기초하여 현재 부호화 단위(1300)가 복수개의 부호화 단위들(1320a, 1320b, 1320c)로 분할된 경우 상기 샘플(1340)을 포함하는 부호화 단위(1320b)를 가운데에 위치하는 부호화 단위로 결정할 수 있다. 다만 가운데에 위치하는 부호화 단위로 결정하기 위해 이용되는 정보가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나로 한정하여 해석되어서는 안되고, 다양한 종류의 정보가 가운데에 위치하는 부호화 단위를 결정하는 과정에서 이용될 수 있다.
일 실시예에 따라 소정 위치의 부호화 단위를 식별하기 위한 소정의 정보는, 결정하려는 부호화 단위에 포함되는 소정의 샘플에서 획득될 수 있다. 도 13을 참조하면, 영상 복호화 장치(100)는 현재 부호화 단위(1300)가 분할되어 결정된 복수개의 부호화 단위들(1320a, 1320b, 1320c) 중 소정 위치의 부호화 단위(예를 들면, 복수개로 분할된 부호화 단위 중 가운데에 위치하는 부호화 단위)를 결정하기 위하여 현재 부호화 단위(1300) 내의 소정 위치의 샘플(예를 들면, 현재 부호화 단위(1300)의 가운데에 위치하는 샘플)에서 획득되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용할 수 있다. . 즉, 영상 복호화 장치(100)는 현재 부호화 단위(1300)의 블록 블록 형태를 고려하여 상기 소정 위치의 샘플을 결정할 수 있고, 영상 복호화 장치(100)는 현재 부호화 단위(1300)가 분할되어 결정되는 복수개의 부호화 단위(1320a, 1320b, 1320c)들 중, 소정의 정보(예를 들면, 블록 형태 정보 및 분할 형태 정보 중 적어도 하나)가 획득될 수 있는 샘플이 포함된 부호화 단위(1320b)를 결정하여 소정의 제한을 둘 수 있다. 도 13을 참조하면 일 실시예에 따라 영상 복호화 장치(100)는 소정의 정보가 획득될 수 있는 샘플로서 현재 부호화 단위(1300)의 가운데에 위치하는 샘플(1340)을 결정할 수 있고, 영상 복호화 장치(100)는 이러한 샘플(1340)이 포함되는 부호화 단위(1320b)를 복호화 과정에서의 소정의 제한을 둘 수 있다. 다만 소정의 정보가 획득될 수 있는 샘플의 위치는 상술한 위치로 한정하여 해석되어서는 안되고, 제한을 두기 위해 결정하려는 부호화 단위(1320b)에 포함되는 임의의 위치의 샘플들로 해석될 수 있다.
일 실시예에 따라 소정의 정보가 획득될 수 있는 샘플의 위치는 현재 부호화 단위(1300)의 형태에 따라 결정될 수 있다. 일 실시예에 따라 블록 형태 정보는 현재 부호화 단위의 형태가 정사각형인지 또는 비-정사각형인지 여부를 결정할 수 있고, 형태에 따라 소정의 정보가 획득될 수 있는 샘플의 위치를 결정할 수 있다. 예를 들면, 영상 복호화 장치(100)는 현재 부호화 단위의 너비에 대한 정보 및 높이에 대한 정보 중 적어도 하나를 이용하여 현재 부호화 단위의 너비 및 높이 중 적어도 하나를 반으로 분할하는 경계 상에 위치하는 샘플을 소정의 정보가 획득될 수 있는 샘플로 결정할 수 있다. 또다른 예를 들면, 영상 복호화 장치(100)는 현재 부호화 단위에 관련된 블록 형태 정보가 비-정사각형 형태임을 나타내는 경우, 현재 부호화 단위의 긴 변을 반으로 분할하는 경계에 인접하는 샘플 중 하나를 소정의 정보가 획득될 수 있는 샘플로 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위를 복수개의 부호화 단위로 분할한 경우, 복수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여, 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 부호화 단위에 포함된 소정 위치의 샘플에서 획득할 수 있고, 영상 복호화 장치(100)는 현재 부호화 단위가 분할되어 생성된 복수개의 부호화 단위들을 복수개의 부호화 단위 각각에 포함된 소정 위치의 샘플로부터 획득되는 분할 형태 정보 및 블록 형태 정보 중 적어도 하나를 이용하여 분할할 수 있다. 즉, 부호화 단위는 부호화 단위 각각에 포함된 소정 위치의 샘플에서 획득되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용하여 재귀적으로 분할될 수 있다. 부호화 단위의 재귀적 분할 과정에 대하여는 도 12를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정할 수 있고, 이러한 적어도 하나의 부호화 단위가 복호화되는 순서를 소정의 블록(예를 들면, 현재 부호화 단위)에 따라 결정할 수 있다.
도 14는 일 실시예에 따라 영상 복호화 장치(100)가 현재 부호화 단위를 분할하여 복수개의 부호화 단위들을 결정하는 경우, 복수개의 부호화 단위들이 처리되는 순서를 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보에 따라 제1 부호화 단위(1400)를 수직 방향으로 분할하여 제2 부호화 단위(1410a, 1410b)를 결정하거나 제1 부호화 단위(1400)를 수평 방향으로 분할하여 제2 부호화 단위(1430a, 1430b)를 결정하거나 제1 부호화 단위(1400)를 수직 방향 및 수평 방향으로 분할하여 제2 부호화 단위(1450a, 1450b, 1450c, 1450d)를 결정할 수 있다.
도 14를 참조하면, 영상 복호화 장치(100)는 제1 부호화 단위(1400)를 수직 방향으로 분할하여 결정된 제2 부호화 단위(1410a, 1410b)를 수평 방향(1410c)으로 처리되도록 순서를 결정할 수 있다. 영상 복호화 장치(100)는 제1 부호화 단위(1400)를 수평 방향으로 분할하여 결정된 제2 부호화 단위(1430a, 1430b)의 처리 순서를 수직 방향(1430c)으로 결정할 수 있다. 영상 복호화 장치(100)는 제1 부호화 단위(1400)를 수직 방향 및 수평 방향으로 분할하여 결정된 제2 부호화 단위(1450a, 1450b, 1450c, 1450d)를 하나의 행에 위치하는 부호화 단위들이 처리된 후 다음 행에 위치하는 부호화 단위들이 처리되는 소정의 순서(예를 들면, 래스터 스캔 순서((raster scan order) 또는 z 스캔 순서(z scan order)(1450e) 등)에 따라 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위들을 재귀적으로 분할할 수 있다. 도 14를 참조하면, 영상 복호화 장치(100)는 제1 부호화 단위(1400)를 분할하여 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d)을 결정할 수 있고, 결정된 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d) 각각을 재귀적으로 분할할 수 있다. 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d)을 분할하는 방법은 제1 부호화 단위(1400)를 분할하는 방법에 대응하는 방법이 될 수 있다. 이에 따라 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d)은 각각 독립적으로 복수개의 부호화 단위들로 분할될 수 있다. 도 14를 참조하면 영상 복호화 장치(100)는 제1 부호화 단위(1400)를 수직 방향으로 분할하여 제2 부호화 단위(1410a, 1410b)를 결정할 수 있고, 나아가 제2 부호화 단위(1410a, 1410b) 각각을 독립적으로 분할하거나 분할하지 않는 것으로 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 좌측의 제2 부호화 단위(1410a)를 수평 방향으로 분할하여 제3 부호화 단위(1420a, 1420b)로 분할할 수 있고, 우측의 제2 부호화 단위(1410b)는 분할하지 않을 수 있다.
일 실시예에 따라 부호화 단위들의 처리 순서는 부호화 단위의 분할 과정에 기초하여 결정될 수 있다. 다시 말해, 분할된 부호화 단위들의 처리 순서는 분할되기 직전의 부호화 단위들의 처리 순서에 기초하여 결정될 수 있다. 영상 복호화 장치(100)는 좌측의 제2 부호화 단위(1410a)가 분할되어 결정된 제3 부호화 단위(1420a, 1420b)가 처리되는 순서를 우측의 제2 부호화 단위(1410b)와 독립적으로 결정할 수 있다. 좌측의 제2 부호화 단위(1410a)가 수평 방향으로 분할되어 제3 부호화 단위(1420a, 1420b)가 결정되었으므로 제3 부호화 단위(1420a, 1420b)는 수직 방향(1420c)으로 처리될 수 있다. 또한 좌측의 제2 부호화 단위(1410a) 및 우측의 제2 부호화 단위(1410b)가 처리되는 순서는 수평 방향(1410c)에 해당하므로, 좌측의 제2 부호화 단위(1410a)에 포함되는 제3 부호화 단위(1420a, 1420b)가 수직 방향(1420c)으로 처리된 후에 우측 부호화 단위(1410b)가 처리될 수 있다. 상술한 내용은 부호화 단위들이 각각 분할 전의 부호화 단위에 따라 처리 순서가 결정되는 과정을 설명하기 위한 것이므로, 상술한 실시예에 한정하여 해석되어서는 안되고, 다양한 형태로 분할되어 결정되는 부호화 단위들이 소정의 순서에 따라 독립적으로 처리될 수 있는 다양한 방법으로 이용되는 것으로 해석되어야 한다.
도 15는 일 실시예에 따라 영상 복호화 장치(100)가 소정의 순서로 부호화 단위가 처리될 수 없는 경우, 현재 부호화 단위가 홀수개의 부호화 단위로 분할되는 것임을 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 획득된 블록 형태 정보 및 분할 형태 정보에 기초하여 현재 부호화 단위가 홀수개의 부호화 단위들로 분할되는 것을 결정할 수 있다. 도 15를 참조하면 정사각형 형태의 제1 부호화 단위(1500)가 비-정사각형 형태의 제2 부호화 단위(1510a, 1510b)로 분할될 수 있고, 제2 부호화 단위(1510a, 1510b)는 각각 독립적으로 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)로 분할될 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 제2 부호화 단위 중 좌측 부호화 단위(1510a)는 수평 방향으로 분할하여 복수개의 제3 부호화 단위(1520a, 1520b)를 결정할 수 있고, 우측 부호화 단위(1510b)는 홀수개의 제3 부호화 단위(1520c, 1520d, 1520e)로 분할할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제3 부호화 단위들(1520a, 1520b, 1520c, 1520d, 1520e)이 소정의 순서로 처리될 수 있는지 여부를 판단하여 홀수개로 분할된 부호화 단위가 존재하는지를 결정할 수 있다. 도 15를 참조하면, 영상 복호화 장치(100)는 제1 부호화 단위(1500)를 재귀적으로 분할하여 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)를 결정할 수 있다. 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여, 제1 부호화 단위(1500), 제2 부호화 단위(1510a, 1510b) 또는 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)가 분할되는 형태 중 홀수개의 부호화 단위로 분할되는지 여부를 결정할 수 있다. 예를 들면, 제2 부호화 단위(1510a, 1510b) 중 우측에 위치하는 부호화 단위가 홀수개의 제3 부호화 단위(1520c, 1520d, 1520e)로 분할될 수 있다. 제1 부호화 단위(1500)에 포함되는 복수개의 부호화 단위들이 처리되는 순서는 소정의 순서(예를 들면, z-스캔 순서(z-scan order)(1530))가 될 수 있고, 영상 복호화 장치(100)는 우측 제2 부호화 단위(1510b)가 홀수개로 분할되어 결정된 제3 부호화 단위(1520c, 1520d, 1520e)가 상기 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 판단할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제1 부호화 단위(1500)에 포함되는 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)가 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 결정할 수 있으며, 상기 조건은 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)의 경계에 따라 제2 부호화 단위(1510a, 1510b)의 너비 및 높이 중 적어도 하나를 반으로 분할되는지 여부와 관련된다. 예를 들면 비-정사각형 형태의 좌측 제2 부호화 단위(1510a)의 높이를 반으로 분할하여 결정되는 제3 부호화 단위(1520a, 1520b)는 조건을 만족하지만, 우측 제2 부호화 단위(1510b)를 3개의 부호화 단위로 분할하여 결정되는 제3 부호화 단위(1520c, 1520d, 1520e)들의 경계가 우측 제2 부호화 단위(1510b)의 너비 또는 높이를 반으로 분할하지 못하므로 제3 부호화 단위(1520c, 1520d, 1520e)는 조건을 만족하지 못하는 것으로 결정될 수 있고, 영상 복호화 장치(100)는 이러한 조건 불만족의 경우 스캔 순서의 단절(disconnection)로 판단하고, 판단 결과에 기초하여 우측 제2 부호화 단위(1510b)는 홀수개의 부호화 단위로 분할되는 것으로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 홀수개의 부호화 단위로 분할되는 경우 분할된 부호화 단위들 중 소정 위치의 부호화 단위에 대하여 소정의 제한을 둘 수 있으며, 이러한 제한 내용 또는 소정 위치 등에 대하여는 다양한 실시예를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
도 16은 일 실시예에 따라 영상 복호화 장치(100)가 제1 부호화 단위(1600)를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다. 일 실시예에 따라 영상 복호화 장치(100)는 수신부(210)를 통해 획득한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1600)를 분할할 수 있다. 정사각형 형태의 제1 부호화 단위(1600)는 4개의 정사각형 형태를 가지는 부호화 단위로 분할되거나 또는 비-정사각형 형태의 복수개의 부호화 단위로 분할할 수 있다. 예를 들면 도 16을 참조하면, 블록 형태 정보가 제1 부호화 단위(1600)는 정사각형임을 나타내고 분할 형태 정보가 비-정사각형의 부호화 단위로 분할됨을 나타내는 경우 영상 복호화 장치(100)는 제1 부호화 단위(1600)를 복수개의 비-정사각형의 부호화 단위들로 분할할 수 있다. 구체적으로, 분할 형태 정보가 제1 부호화 단위(1600)를 수평 방향 또는 수직 방향으로 분할하여 홀수개의 부호화 단위를 결정하는 것을 나타내는 경우, 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1600)을 홀수개의 부호화 단위들로서 수직 방향으로 분할되어 결정된 제2 부호화 단위(1610a, 1610b, 1610c) 또는 수평 방향으로 분할되어 결정된 제2 부호화 단위(1620a, 1620b, 1620c)로 분할할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제1 부호화 단위(1600)에 포함되는 제2 부호화 단위(1610a, 1610b, 1610c, 1620a, 1620b, 1620c)가 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 결정할 수 있으며, 상기 조건은 제2 부호화 단위(1610a, 1610b, 1610c, 1620a, 1620b, 1620c)의 경계에 따라 제1 부호화 단위(1600)의 너비 및 높이 중 적어도 하나를 반으로 분할되는지 여부와 관련된다. 도 16를 참조하면 정사각형 형태의 제1 부호화 단위(1600)를 수직 방향으로 분할하여 결정되는 제2 부호화 단위(1610a, 1610b, 1610c)들의 경계가 제1 부호화 단위(1600)의 너비를 반으로 분할하지 못하므로 제1 부호화 단위(1600)는 소정의 순서에 따라 처리될 수 있는 조건을 만족하지 못하는 것으로 결정될 수 있다. 또한 정사각형 형태의 제1 부호화 단위(1600)를 수평 방향으로 분할하여 결정되는 제2 부호화 단위(1620a, 1620b, 1620c)들의 경계가 제1 부호화 단위(1600)의 너비를 반으로 분할하지 못하므로 제1 부호화 단위(1600)는 소정의 순서에 따라 처리될 수 있는 조건을 만족하지 못하는 것으로 결정될 수 있다. 영상 복호화 장치(100)는 이러한 조건 불만족의 경우 스캔 순서의 단절(disconnection)로 판단하고, 판단 결과에 기초하여 제1 부호화 단위(1600)는 홀수개의 부호화 단위로 분할되는 것으로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 홀수개의 부호화 단위로 분할되는 경우 분할된 부호화 단위들 중 소정 위치의 부호화 단위에 대하여 소정의 제한을 둘 수 있으며, 이러한 제한 내용 또는 소정 위치 등에 대하여는 다양한 실시예를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라, 영상 복호화 장치(100)는 제1 부호화 단위를 분할하여 다양한 형태의 부호화 단위들을 결정할 수 있다.
도 16을 참조하면, 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1600), 비-정사각형 형태의 제1 부호화 단위(1630 또는 1650)를 다양한 형태의 부호화 단위들로 분할할 수 있다.
도 17은 일 실시예에 따라 영상 복호화 장치(100)가 제1 부호화 단위(1700)가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위가 소정의 조건을 만족하는 경우 제2 부호화 단위가 분할될 수 있는 형태가 제한되는 것을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 수신부(210)를 통해 획득한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 정사각형 형태의 제1 부호화 단위(1700)를 비-정사각형 형태의 제2 부호화 단위(1710a, 1710b, 1720a, 1720b)로 분할하는 것으로 결정할 수 있다. 제2 부호화 단위(1710a, 1710b, 1720a, 1720b)는 독립적으로 분할될 수 있다. 이에 따라 영상 복호화 장치(100)는 제2 부호화 단위(1710a, 1710b, 1720a, 1720b) 각각에 관련된 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 복수개의 부호화 단위로 분할하거나 분할하지 않는 것을 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 수직 방향으로 제1 부호화 단위(1700)가 분할되어 결정된 비-정사각형 형태의 좌측 제2 부호화 단위(1710a)를 수평 방향으로 분할하여 제3 부호화 단위(1712a, 1712b)를 결정할 수 있다. 다만 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1710a)를 수평 방향으로 분할한 경우, 우측 제2 부호화 단위(1710b)는 좌측 제2 부호화 단위(1710a)가 분할된 방향과 동일하게 수평 방향으로 분할될 수 없도록 제한할 수 있다. 만일 우측 제2 부호화 단위(1710b)가 동일한 방향으로 분할되어 제3 부호화 단위(1714a, 1714b)가 결정된 경우, 좌측 제2 부호화 단위(1710a) 및 우측 제2 부호화 단위(1710b)가 수평 방향으로 각각 독립적으로 분할됨으로써 제3 부호화 단위(1712a, 1712b, 1714a, 1714b)가 결정될 수 있다. 하지만 이는 영상 복호화 장치(100)가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1700)를 4개의 정사각형 형태의 제2 부호화 단위(1730a, 1730b, 1730c, 1730d)로 분할한 것과 동일한 결과이며 이는 영상 복호화 측면에서 비효율적일 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 수평 방향으로 제1 부호화 단위(11300)가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위(1720a 또는 1720b)를 수직 방향으로 분할하여 제3 부호화 단위(1722a, 1722b, 1724a, 1724b)를 결정할 수 있다. 다만 영상 복호화 장치(100)는 제2 부호화 단위 중 하나(예를 들면 상단 제2 부호화 단위(1720a))를 수직 방향으로 분할한 경우, 상술한 이유에 따라 다른 제2 부호화 단위(예를 들면 하단 부호화 단위(1720b))는 상단 제2 부호화 단위(1720a)가 분할된 방향과 동일하게 수직 방향으로 분할될 수 없도록 제한할 수 있다.
도 18은 일 실시예에 따라 분할 형태 정보가 4개의 정사각형 형태의 부호화 단위로 분할하는 것을 나타낼 수 없는 경우, 영상 복호화 장치(100)가 정사각형 형태의 부호화 단위를 분할하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1800)를 분할하여 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등)를 결정할 수 있다. 분할 형태 정보에는 부호화 단위가 분할될 수 있는 다양한 형태에 대한 정보가 포함될 수 있으나, 다양한 형태에 대한 정보에는 정사각형 형태의 4개의 부호화 단위로 분할하기 위한 정보가 포함될 수 없는 경우가 있다. 이러한 분할 형태 정보에 따르면, 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1800)를 4개의 정사각형 형태의 제2 부호화 단위(1830a, 1830b, 1830c, 1830d)로 분할하지 못한다. 분할 형태 정보에 기초하여 영상 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등)를 각각 독립적으로 분할할 수 있다. 재귀적인 방법을 통해 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등) 각각이 소정의 순서대로 분할될 수 있으며, 이는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1800)가 분할되는 방법에 대응하는 분할 방법일 수 있다.
예를 들면 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1810a)가 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1812a, 1812b)를 결정할 수 있고, 우측 제2 부호화 단위(1810b)가 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1814a, 1814b)를 결정할 수 있다. 나아가 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1810a) 및 우측 제2 부호화 단위(1810b) 모두 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1816a, 1816b, 1816c, 1816d)를 결정할 수도 있다. 이러한 경우 제1 부호화 단위(1800)가 4개의 정사각형 형태의 제2 부호화 단위(1830a, 1830b, 1830c, 1830d)로 분할된 것과 동일한 형태로 부호화 단위가 결정될 수 있다.
또 다른 예를 들면 영상 복호화 장치(100)는 상단 제2 부호화 단위(1820a)가 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1822a, 1822b)를 결정할 수 있고, 하단 제2 부호화 단위(1820b)가 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1824a, 1824b)를 결정할 수 있다. 나아가 영상 복호화 장치(100)는 상단 제2 부호화 단위(1820a) 및 하단 제2 부호화 단위(1820b) 모두 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1822a, 1822b, 1824a, 1824b)를 결정할 수도 있다. 이러한 경우 제1 부호화 단위(1800)가 4개의 정사각형 형태의 제2 부호화 단위(1830a, 1830b, 1830c, 1830d)로 분할된 것과 동일한 형태로 부호화 단위가 결정될 수 있다.
도 19는 일 실시예에 따라 복수개의 부호화 단위들 간의 처리 순서가 부호화 단위의 분할 과정에 따라 달라질 수 있음을 도시한 것이다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보에 기초하여 제1 부호화 단위(1900)를 분할할 수 있다. 블록 형태 정보가 정사각형 형태를 나타내고, 분할 형태 정보가 제1 부호화 단위(1900)가 수평 방향 및 수직 방향 중 적어도 하나의 방향으로 분할됨을 나타내는 경우, 영상 복호화 장치(100)는 제1 부호화 단위(1900)를 분할하여 제2 부호화 단위(예를 들면, 1910a, 1910b, 1920a, 1920b, 1930a, 1930b, 1930c, 1930d 등)를 결정할 수 있다. 도 19를 참조하면 제1 부호화 단위1900)가 수평 방향 또는 수직 방향만으로 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위(1910a, 1910b, 1920a, 1920b)는 각각에 대한 블록 형태 정보 및 분할 형태 정보에 기초하여 독립적으로 분할될 수 있다. 예를 들면 영상 복호화 장치(100)는 제1 부호화 단위(1900)가 수직 방향으로 분할되어 생성된 제2 부호화 단위(1910a, 1910b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1916a, 1916b, 1916c, 1916d)를 결정할 수 있고, 제1 부호화 단위(1900)가 수평 방향으로 분할되어 생성된 제2 부호화 단위(1920a, 1920b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1926a, 1926b, 1926c, 1926d)를 결정할 수 있다. 이러한 제2 부호화 단위(1910a, 1910b, 1920a, 1920b)의 분할 과정은 도 17과 관련하여 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 소정의 순서에 따라 부호화 단위를 처리할 수 있다. 소정의 순서에 따른 부호화 단위의 처리에 대한 특징은 도 14과 관련하여 상술하였으므로 자세한 설명은 생략하도록 한다. 도 19를 참조하면 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1900)를 분할하여 4개의 정사각형 형태의 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)를 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 제1 부호화 단위(1900)가 분할되는 형태에 따라 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)의 처리 순서를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 수직 방향으로 분할되어 생성된 제2 부호화 단위(1910a, 1910b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1916a, 1916b, 1916c, 1916d)를 결정할 수 있고, 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1910a)에 포함되는 제3 부호화 단위(1916a, 1916b)를 수직 방향으로 먼저 처리한 후, 우측 제2 부호화 단위(1910b)에 포함되는 제3 부호화 단위(1916c, 1916d)를 수직 방향으로 처리하는 순서(1917)에 따라 제3 부호화 단위(1916a, 1916b, 1916c, 1916d)를 처리할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 수평 방향으로 분할되어 생성된 제2 부호화 단위(1920a, 1920b)를 수직 방향으로 각각 분할하여 제3 부호화 단위(1926a, 1926b, 1926c, 1926d)를 결정할 수 있고, 영상 복호화 장치(100)는 상단 제2 부호화 단위(1920a)에 포함되는 제3 부호화 단위(1926a, 1926b)를 수평 방향으로 먼저 처리한 후, 하단 제2 부호화 단위(1920b)에 포함되는 제3 부호화 단위(1926c, 1926d)를 수평 방향으로 처리하는 순서(1927)에 따라 제3 부호화 단위(1926a, 1926b, 1926c, 1926d)를 처리할 수 있다.
도 19를 참조하면, 제2 부호화 단위(1910a, 1910b, 1920a, 1920b)가 각각 분할되어 정사각형 형태의 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)가 결정될 수 있다. 수직 방향으로 분할되어 결정된 제2 부호화 단위(1910a, 1910b) 및 수평 방향으로 분할되어 결정된 제2 부호화 단위(1920a, 1920b)는 서로 다른 형태로 분할된 것이지만, 이후에 결정되는 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)에 따르면 결국 동일한 형태의 부호화 단위들로 제1 부호화 단위(1900)가 분할된 결과가 된다. 이에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 상이한 과정을 통해 재귀적으로 부호화 단위를 분할함으로써 결과적으로 동일한 형태의 부호화 단위들을 결정하더라도, 동일한 형태로 결정된 복수개의 부호화 단위들을 서로 다른 순서로 처리할 수 있다.
도 20은 일 실시예에 따라 부호화 단위가 재귀적으로 분할되어 복수개의 부호화 단위가 결정되는 경우, 부호화 단위의 형태 및 크기가 변함에 따라 부호화 단위의 심도가 결정되는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위의 심도를 소정의 기준에 따라 결정할 수 있다. 예를 들면 소정의 기준은 부호화 단위의 긴 변의 길이가 될 수 있다. 영상 복호화 장치(100)는 현재 부호화 단위의 긴 변의 길이가 분할되기 전의 부호화 단위의 긴 변의 길이보다 2n (n>0) 배로 분할된 경우, 현재 부호화 단위의 심도는 분할되기 전의 부호화 단위의 심도보다 n만큼 심도가 증가된 것으로 결정할 수 있다. 이하에서는 심도가 증가된 부호화 단위를 하위 심도의 부호화 단위로 표현하도록 한다.
도 20을 참조하면, 일 실시예에 따라 정사각형 형태임을 나타내는 블록 형태 정보(예를 들면 블록 형태 정보는 ′0: SQUARE′를 나타낼 수 있음)에 기초하여 영상 복호화 장치(100)는 정사각형 형태인 제1 부호화 단위(2000)를 분할하여 하위 심도의 제2 부호화 단위(2002), 제3 부호화 단위(2004) 등을 결정할 수 있다. 정사각형 형태의 제1 부호화 단위(2000)의 크기를 2Nx2N이라고 한다면, 제1 부호화 단위(2000)의 너비 및 높이를 1/21배로 분할하여 결정된 제2 부호화 단위(2002)는 NxN의 크기를 가질 수 있다. 나아가 제2 부호화 단위(2002)의 너비 및 높이를 1/2크기로 분할하여 결정된 제3 부호화 단위(2004)는 N/2xN/2의 크기를 가질 수 있다. 이 경우 제3 부호화 단위(2004)의 너비 및 높이는 제1 부호화 단위(2000)의 1/22배에 해당한다. 제1 부호화 단위(2000)의 심도가 D인 경우 제1 부호화 단위(2000)의 너비 및 높이의 1/21배인 제2 부호화 단위(2002)의 심도는 D+1일 수 있고, 제1 부호화 단위(2000)의 너비 및 높이의 1/22배인 제3 부호화 단위(2004)의 심도는 D+2일 수 있다.
일 실시예에 따라 비-정사각형 형태를 나타내는 블록 형태 정보(예를 들면 블록 형태 정보는, 높이가 너비보다 긴 비-정사각형임을 나타내는 ′1: NS_VER′ 또는 너비가 높이보다 긴 비-정사각형임을 나타내는 ′2: NS_HOR′를 나타낼 수 있음)에 기초하여, 영상 복호화 장치(100)는 비-정사각형 형태인 제1 부호화 단위(2010 또는 2020)를 분할하여 하위 심도의 제2 부호화 단위(2012 또는 2022), 제3 부호화 단위(2014 또는 2024) 등을 결정할 수 있다.
영상 복호화 장치(100)는 Nx2N 크기의 제1 부호화 단위(2010)의 너비 및 높이 중 적어도 하나를 분할하여 제2 부호화 단위(예를 들면, 2002, 2012, 2022 등)를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 제1 부호화 단위(2010)를 수평 방향으로 분할하여 NxN 크기의 제2 부호화 단위(2002) 또는 NxN/2 크기의 제2 부호화 단위(2022)를 결정할 수 있고, 수평 방향 및 수직 방향으로 분할하여 N/2xN 크기의 제2 부호화 단위(2012)를 결정할 수도 있다.
일 실시예에 따라 영상 복호화 장치(100)는 2NxN 크기의 제1 부호화 단위(2020) 의 너비 및 높이 중 적어도 하나를 분할하여 제2 부호화 단위(예를 들면, 2002, 2012, 2022 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제1 부호화 단위(2020)를 수직 방향으로 분할하여 NxN 크기의 제2 부호화 단위(2002) 또는 N/2xN 크기의 제2 부호화 단위(2012)를 결정할 수 있고, 수평 방향 및 수직 방향으로 분할하여 NxN/2 크기의 제2 부호화 단위(2022)를 결정할 수도 있다.
일 실시예에 따라 영상 복호화 장치(100)는 NxN 크기의 제2 부호화 단위(2002) 의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 2004, 2014, 2024 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제2 부호화 단위(2002)를 수직 방향 및 수평 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(2004)를 결정하거나 N/22xN/2 크기의 제3 부호화 단위(2014)를 결정하거나 N/2xN/22 크기의 제3 부호화 단위(2024)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 N/2xN 크기의 제2 부호화 단위(2012)의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 2004, 2014, 2024 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제2 부호화 단위(2012)를 수평 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(2004) 또는 N/2xN/22 크기의 제3 부호화 단위(2024)를 결정하거나 수직 방향 및 수평 방향으로 분할하여 N/22xN/2 크기의 제3 부호화 단위(2014)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 NxN/2 크기의 제2 부호화 단위(2014)의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 2004, 2014, 2024 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제2 부호화 단위(2012)를 수직 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(2004) 또는 N/22xN/2 크기의 제3 부호화 단위(2014)를 결정하거나 수직 방향 및 수평 방향으로 분할하여 N/2xN/22크기의 제3 부호화 단위(2024)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 정사각형 형태의 부호화 단위(예를 들면, 2000, 2002, 2004)를 수평 방향 또는 수직 방향으로 분할할 수 있다. 예를 들면, 2Nx2N 크기의 제1 부호화 단위(2000)를 수직 방향으로 분할하여 Nx2N 크기의 제1 부호화 단위(2010)를 결정하거나 수평 방향으로 분할하여 2NxN 크기의 제1 부호화 단위(2020)를 결정할 수 있다. 일 실시예에 따라 심도가 부호화 단위의 가장 긴 변의 길이에 기초하여 결정되는 경우, 2Nx2N 크기의 제1 부호화 단위(2000, 2002 또는 2004)가 수평 방향 또는 수직 방향으로 분할되어 결정되는 부호화 단위의 심도는 제1 부호화 단위(2000, 2002 또는 2004)의 심도와 동일할 수 있다.
일 실시예에 따라 제3 부호화 단위(2014 또는 2024)의 너비 및 높이는 제1 부호화 단위(2010 또는 2020)의 1/22배에 해당할 수 있다. 제1 부호화 단위(2010 또는 2020)의 심도가 D인 경우 제1 부호화 단위(2010 또는 2020)의 너비 및 높이의 1/2배인 제2 부호화 단위(2012 또는 2014)의 심도는 D+1일 수 있고, 제1 부호화 단위(2010 또는 2020)의 너비 및 높이의 1/22배인 제3 부호화 단위(2014 또는 2024)의 심도는 D+2일 수 있다.
도 21은 일 실시예에 따라 부호화 단위들의 형태 및 크기에 따라 결정될 수 있는 심도 및 부호화 단위 구분을 위한 인덱스(part index, 이하 PID)를 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(2100)를 분할하여 다양한 형태의 제2 부호화 단위를 결정할 수 있다. 도 21를 참조하면, 영상 복호화 장치(100)는 분할 형태 정보에 따라 제1 부호화 단위(2100)를 수직 방향 및 수평 방향 중 적어도 하나의 방향으로 분할하여 제2 부호화 단위(2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, 2106d)를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 제1 부호화 단위(2100)에 대한 분할 형태 정보에 기초하여 제2 부호화 단위(2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, 2106d)를 결정할 수 있다.
일 실시예에 따라 정사각형 형태의 제1 부호화 단위(2100)에 대한 분할 형태 정보에 따라 결정되는 제2 부호화 단위(2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, 2106d)는 긴 변의 길이에 기초하여 심도가 결정될 수 있다. 예를 들면, 정사각형 형태의 제1 부호화 단위(2100)의 한 변의 길이와 비-정사각형 형태의 제2 부호화 단위(2102a, 2102b, 2104a, 2104b)의 긴 변의 길이가 동일하므로, 제1 부호화 단위(2100)와 비-정사각형 형태의 제2 부호화 단위(2102a, 2102b, 2104a, 2104b)의 심도는 D로 동일하다고 볼 수 있다. 이에 반해 영상 복호화 장치(100)가 분할 형태 정보에 기초하여 제1 부호화 단위(2100)를 4개의 정사각형 형태의 제2 부호화 단위(2106a, 2106b, 2106c, 2106d)로 분할한 경우, 정사각형 형태의 제2 부호화 단위(2106a, 2106b, 2106c, 2106d)의 한 변의 길이는 제1 부호화 단위(2100)의 한 변의 길이의 1/2배 이므로, 제2 부호화 단위(2106a, 2106b, 2106c, 2106d)의 심도는 제1 부호화 단위(2100)의 심도인 D보다 한 심도 하위인 D+1의 심도일 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 높이가 너비보다 긴 형태의 제1 부호화 단위(2110)를 분할 형태 정보에 따라 수평 방향으로 분할하여 복수개의 제2 부호화 단위(2112a, 2112b, 2114a, 2114b, 2114c)로 분할할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 너비가 높이보다 긴 형태의 제1 부호화 단위(2120)를 분할 형태 정보에 따라 수직 방향으로 분할하여 복수개의 제2 부호화 단위(2122a, 2122b, 2124a, 2124b, 2124c)로 분할할 수 있다.
일 실시예에 따라 비-정사각형 형태의 제1 부호화 단위(2110 또는 2120)에 대한 분할 형태 정보에 따라 결정되는 제2 부호화 단위(2112a, 2112b, 2114a, 2114b, 2116a, 2116b, 2116c, 2116d)는 긴 변의 길이에 기초하여 심도가 결정될 수 있다. 예를 들면, 정사각형 형태의 제2 부호화 단위(2112a, 2112b)의 한 변의 길이는 높이가 너비보다 긴 비-정사각형 형태의 제1 부호화 단위(2110)의 한 변의 길이의 1/2배이므로, 정사각형 형태의 제2 부호화 단위(2102a, 2102b, 2104a, 2104b)의 심도는 비-정사각형 형태의 제1 부호화 단위(2110)의 심도 D보다 한 심도 하위의 심도인 D+1이다.
나아가 영상 복호화 장치(100)가 분할 형태 정보에 기초하여 비-정사각형 형태의 제1 부호화 단위(2110)를 홀수개의 제2 부호화 단위(2114a, 2114b, 2114c)로 분할할 수 있다. 홀수개의 제2 부호화 단위(2114a, 2114b, 2114c)는 비-정사각형 형태의 제2 부호화 단위(2114a, 2114c) 및 정사각형 형태의 제2 부호화 단위(2114b)를 포함할 수 있다. 이 경우 비-정사각형 형태의 제2 부호화 단위(2114a, 2114c)의 긴 변의 길이 및 정사각형 형태의 제2 부호화 단위(2114b)의 한 변의 길이는 제1 부호화 단위(2110)의 한 변의 길이의 1/2배 이므로, 제2 부호화 단위(2114a, 2114b, 2114c)의 심도는 제1 부호화 단위(2110)의 심도인 D보다 한 심도 하위인 D+1의 심도일 수 있다. 영상 복호화 장치(100)는 제1 부호화 단위(2110)와 관련된 부호화 단위들의 심도를 결정하는 상기 방식에 대응하는 방식으로, 너비가 높이보다 긴 비-정사각형 형태의 제1 부호화 단위(2120)와 관련된 부호화 단위들의 심도를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 분할된 부호화 단위들의 구분을 위한 인덱스(PID)를 결정함에 있어서, 홀수개로 분할된 부호화 단위들이 서로 동일한 크기가 아닌 경우, 부호화 단위들 간의 크기 비율에 기초하여 인덱스를 결정할 수 있다. 도 21를 참조하면, 홀수개로 분할된 부호화 단위들(2114a, 2114b, 2114c) 중 가운데에 위치하는 부호화 단위(2114b)는 다른 부호화 단위들(2114a, 2114c)와 너비는 동일하지만 높이가 다른 부호화 단위들(2114a, 2114c)의 높이의 두 배일 수 있다. 즉, 이 경우 가운데에 위치하는 부호화 단위(2114b)는 다른 부호화 단위들(2114a, 2114c)의 두 개를 포함할 수 있다. 따라서, 스캔 순서에 따라 가운데에 위치하는 부호화 단위(2114b)의 인덱스(PID)가 1이라면 그 다음 순서에 위치하는 부호화 단위(2114c)는 인덱스가 2가 증가한 3일수 있다. 즉 인덱스의 값의 불연속성이 존재할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 이러한 분할된 부호화 단위들 간의 구분을 위한 인덱스의 불연속성의 존재 여부에 기초하여 홀수개로 분할된 부호화 단위들이 서로 동일한 크기가 아닌지 여부를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위로부터 분할되어 결정된 복수개의 부호화 단위들을 구분하기 위한 인덱스의 값에 기초하여 특정 분할 형태로 분할된 것인지를 결정할 수 있다. 도 21를 참조하면 영상 복호화 장치(100)는 높이가 너비보다 긴 직사각형 형태의 제1 부호화 단위(2110)를 분할하여 짝수개의 부호화 단위(2112a, 2112b)를 결정하거나 홀수개의 부호화 단위(2114a, 2114b, 2114c)를 결정할 수 있다. 영상 복호화 장치(100)는 복수개의 부호화 단위 각각을 구분하기 위하여 각 부호화 단위를 나타내는 인덱스(PID)를 이용할 수 있다. 일 실시예에 따라 PID는 각각의 부호화 단위의 소정 위치의 샘플(예를 들면, 좌측 상단 샘플)에서 획득될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위의 구분을 위한 인덱스를 이용하여 분할되어 결정된 부호화 단위들 중 소정 위치의 부호화 단위를 결정할 수 있다. 일 실시예에 따라 높이가 너비보다 긴 직사각형 형태의 제1 부호화 단위(2110)에 대한 분할 형태 정보가 3개의 부호화 단위로 분할됨을 나타내는 경우 영상 복호화 장치(100)는 제1 부호화 단위(2110)를 3개의 부호화 단위(2114a, 2114b, 2114c)로 분할할 수 있다. 영상 복호화 장치(100)는 3개의 부호화 단위(2114a, 2114b, 2114c) 각각에 대한 인덱스를 할당할 수 있다. 영상 복호화 장치(100)는 홀수개로 분할된 부호화 단위 중 가운데 부호화 단위를 결정하기 위하여 각 부호화 단위에 대한 인덱스를 비교할 수 있다. 영상 복호화 장치(100)는 부호화 단위들의 인덱스에 기초하여 인덱스들 중 가운데 값에 해당하는 인덱스를 갖는 부호화 단위(2114b)를, 제1 부호화 단위(2110)가 분할되어 결정된 부호화 단위 중 가운데 위치의 부호화 단위로서 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 분할된 부호화 단위들의 구분을 위한 인덱스를 결정함에 있어서, 부호화 단위들이 서로 동일한 크기가 아닌 경우, 부호화 단위들 간의 크기 비율에 기초하여 인덱스를 결정할 수 있다. 도 21를 참조하면, 제1 부호화 단위(2110)가 분할되어 생성된 부호화 단위(2114b)는 다른 부호화 단위들(2114a, 2114c)와 너비는 동일하지만 높이가 다른 부호화 단위들(2114a, 2114c)의 높이의 두 배일 수 있다. 이 경우 가운데에 위치하는 부호화 단위(2114b)의 인덱스(PID)가 1이라면 그 다음 순서에 위치하는 부호화 단위(2114c)는 인덱스가 2가 증가한 3일수 있다. 이러한 경우처럼 균일하게 인덱스가 증가하다가 증가폭이 달라지는 경우, 영상 복호화 장치(100)는 다른 부호화 단위들과 다른 크기를 가지는 부호화 단위를 포함하는 복수개의 부호화 단위로 분할된 것으로 결정할 수 있다, 일 실시예에 따라 분할 형태 정보가 홀수개의 부호화 단위로 분할됨을 나타내는 경우, 영상 복호화 장치(100)는 홀수개의 부호화 단위 중 소정 위치의 부호화 단위(예를 들면 가운데 부호화 단위)가 다른 부호화 단위와 크기가 다른 형태로 현재 부호화 단위를 분할할 수 있다. 이 경우 영상 복호화 장치(100)는 부호화 단위에 대한 인덱스(PID)를 이용하여 다른 크기를 가지는 가운데 부호화 단위를 결정할 수 있다. 다만 상술한 인덱스, 결정하고자 하는 소정 위치의 부호화 단위의 크기 또는 위치는 일 실시예를 설명하기 위해 특정한 것이므로 이에 한정하여 해석되어서는 안되며, 다양한 인덱스, 부호화 단위의 위치 및 크기가 이용될 수 있는 것으로 해석되어야 한다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위의 재귀적인 분할이 시작되는 소정의 데이터 단위를 이용할 수 있다.
도 22는 일 실시예에 따라 픽쳐에 포함되는 복수개의 소정의 데이터 단위에 따라 복수개의 부호화 단위들이 결정된 것을 도시한다.
일 실시예에 따라 소정의 데이터 단위는 부호화 단위가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용하여 재귀적으로 분할되기 시작하는 데이터 단위로 정의될 수 있다. 즉, 현재 픽쳐를 분할하는 복수개의 부호화 단위들이 결정되는 과정에서 이용되는 최상위 심도의 부호화 단위에 해당할 수 있다. 이하에서는 설명 상 편의를 위해 이러한 소정의 데이터 단위를 기준 데이터 단위라고 지칭하도록 한다.
일 실시예에 따라 기준 데이터 단위는 소정의 크기 및 형태를 나타낼 수 있다. 일 실시예에 따라, 기준 부호화 단위는 MxN의 샘플들을 포함할 수 있다. 여기서 M 및 N은 서로 동일할 수도 있으며, 2의 승수로 표현되는 정수일 수 있다. 즉, 기준 데이터 단위는 정사각형 또는 비-정사각형의 형태를 나타낼 수 있으며, 이후에 정수개의 부호화 단위로 분할될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 픽쳐를 복수개의 기준 데이터 단위로 분할할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 현재 픽쳐를 분할하는 복수개의 기준 데이터 단위를 각각의 기준 데이터 단위에 대한 분할 정보를 이용하여 분할할 수 있다. 이러한 기준 데이터 단위의 분할 과정은 쿼드 트리(quad-tree)구조를 이용한 분할 과정에 대응될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 픽쳐에 포함되는 기준 데이터 단위가 가질 수 있는 최소 크기를 미리 결정할 수 있다. 이에 따라, 영상 복호화 장치(100)는 최소 크기 이상의 크기를 갖는 다양한 크기의 기준 데이터 단위를 결정할 수 있고, 결정된 기준 데이터 단위를 기준으로 블록 형태 정보 및 분할 형태 정보를 이용하여 적어도 하나의 부호화 단위를 결정할 수 있다.
도 22를 참조하면, 영상 복호화 장치(100)는 정사각형 형태의 기준 부호화 단위(2200)를 이용할 수 있고, 또는 비-정사각형 형태의 기준 부호화 단위(2202)를 이용할 수도 있다. 일 실시예에 따라 기준 부호화 단위의 형태 및 크기는 적어도 하나의 기준 부호화 단위를 포함할 수 있는 다양한 데이터 단위(예를 들면, 시퀀스(sequence), 픽쳐(picture), 슬라이스(slice), 슬라이스 세그먼트(slice segment), 최대부호화단위 등)에 따라 결정될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)의 수신부(210)는 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보 중 적어도 하나를 상기 다양한 데이터 단위마다 비트스트림으로부터 획득할 수 있다. 정사각형 형태의 기준 부호화 단위(2200)에 포함되는 적어도 하나의 부호화 단위가 결정되는 과정은 도 10의 현재 부호화 단위(300)가 분할되는 과정을 통해 상술하였고, 비-정사각형 형태의 기준 부호화 단위(2200)에 포함되는 적어도 하나의 부호화 단위가 결정되는 과정은 도 11의 현재 부호화 단위(1100 또는 1150)가 분할되는 과정을 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 소정의 조건에 기초하여 미리 결정되는 일부 데이터 단위에 따라 기준 부호화 단위의 크기 및 형태를 결정하기 위하여, 기준 부호화 단위의 크기 및 형태를 식별하기 위한 인덱스를 이용할 수 있다. 즉, 수신부(210)는 비트스트림으로부터 상기 다양한 데이터 단위(예를 들면, 시퀀스, 픽쳐, 슬라이스, 슬라이스 세그먼트, 최대부호화단위 등) 중 소정의 조건(예를 들면 슬라이스 이하의 크기를 갖는 데이터 단위)을 만족하는 데이터 단위로서 슬라이스, 슬라이스 세그먼트, 최대부호화 단위 등 마다, 기준 부호화 단위의 크기 및 형태의 식별을 위한 인덱스만을 획득할 수 있다. 영상 복호화 장치(100)는 인덱스를 이용함으로써 상기 소정의 조건을 만족하는 데이터 단위마다 기준 데이터 단위의 크기 및 형태를 결정할 수 있다. 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보를 상대적으로 작은 크기의 데이터 단위마다 비트스트림으로부터 획득하여 이용하는 경우, 비트스트림의 이용 효율이 좋지 않을 수 있으므로, 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보를 직접 획득하는 대신 상기 인덱스만을 획득하여 이용할 수 있다. 이 경우 기준 부호화 단위의 크기 및 형태를 나타내는 인덱스에 대응하는 기준 부호화 단위의 크기 및 형태 중 적어도 하나는 미리 결정되어 있을 수 있다. 즉, 영상 복호화 장치(100)는 미리 결정된 기준 부호화 단위의 크기 및 형태 중 적어도 하나를 인덱스에 따라 선택함으로써, 인덱스 획득의 기준이 되는 데이터 단위에 포함되는 기준 부호화 단위의 크기 및 형태 중 적어도 하나를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 하나의 최대 부호화 단위에 포함하는 적어도 하나의 기준 부호화 단위를 이용할 수 있다. 즉, 영상을 분할하는 최대 부호화 단위에는 적어도 하나의 기준 부호화 단위가 포함될 수 있고, 각각의 기준 부호화 단위의 재귀적인 분할 과정을 통해 부호화 단위가 결정될 수 있다. 일 실시예에 따라 최대 부호화 단위의 너비 및 높이 중 적어도 하나는 기준 부호화 단위의 너비 및 높이 중 적어도 하나의 정수배에 해당할 수 있다. 일 실시예에 따라 기준 부호화 단위의 크기는 최대부호화단위를 쿼드 트리 구조에 따라 n번 분할한 크기일 수 있다. 즉, 영상 복호화 장치(100)는 최대부호화단위를 쿼드 트리 구조에 따라 n 번 분할하여 기준 부호화 단위를 결정할 수 있고, 다양한 실시예들에 따라 기준 부호화 단위를 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 분할할 수 있다.
도 23은 일 실시예에 따라 픽쳐(2300)에 포함되는 기준 부호화 단위의 결정 순서를 결정하는 기준이 되는 프로세싱 블록을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 픽쳐를 분할하는 적어도 하나의 프로세싱 블록을 결정할 수 있다. 프로세싱 블록이란, 영상을 분할하는 적어도 하나의 기준 부호화 단위를 포함하는 데이터 단위로서, 프로세싱 블록에 포함되는 적어도 하나의 기준 부호화 단위는 특정 순서대로 결정될 수 있다. 즉, 각각의 프로세싱 블록에서 결정되는 적어도 하나의 기준 부호화 단위의 결정 순서는 기준 부호화 단위가 결정될 수 있는 다양한 순서의 종류 중 하나에 해당할 수 있으며, 각각의 프로세싱 블록에서 결정되는 기준 부호화 단위 결정 순서는 프로세싱 블록마다 상이할 수 있다. 프로세싱 블록마다 결정되는 기준 부호화 단위의 결정 순서는 래스터 스캔(raster scan), Z 스캔(Z-scan), N 스캔(N-scan), 우상향 대각 스캔(up-right diagonal scan), 수평적 스캔(horizontal scan), 수직적 스캔(vertical scan) 등 다양한 순서 중 하나일 수 있으나, 결정될 수 있는 순서는 상기 스캔 순서들에 한정하여 해석되어서는 안 된다.
일 실시예에 따라 영상 복호화 장치(100)는 프로세싱 블록의 크기에 대한 정보를 획득하여 영상에 포함되는 적어도 하나의 프로세싱 블록의 크기를 결정할 수 있다. 영상 복호화 장치(100)는 프로세싱 블록의 크기에 대한 정보를 비트스트림으로부터 획득하여 영상에 포함되는 적어도 하나의 프로세싱 블록의 크기를 결정할 수 있다. 이러한 프로세싱 블록의 크기는 프로세싱 블록의 크기에 대한 정보가 나타내는 데이터 단위의 소정의 크기일 수 있다.
일 실시예에 따라 영상 복호화 장치(100)의 수신부(210)는 비트스트림으로부터 프로세싱 블록의 크기에 대한 정보를 특정의 데이터 단위마다 획득할 수 있다. 예를 들면 프로세싱 블록의 크기에 대한 정보는 영상, 시퀀스, 픽쳐, 슬라이스, 슬라이스 세그먼트 등의 데이터 단위로 비트스트림으로부터 획득될 수 있다. 즉 수신부(210)는 상기 여러 데이터 단위마다 비트스트림으로부터 프로세싱 블록의 크기에 대한 정보를 획득할 수 있고 영상 복호화 장치(100)는 획득된 프로세싱 블록의 크기에 대한 정보를 이용하여 픽쳐를 분할하는 적어도 하나의 프로세싱 블록의 크기를 결정할 수 있으며, 이러한 프로세싱 블록의 크기는 기준 부호화 단위의 정수배의 크기일 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 픽쳐(2300)에 포함되는 프로세싱 블록(2302, 2312)의 크기를 결정할 수 있다. 예를 들면, 영상 복호화 장치(100)는 비트스트림으로부터 획득된 프로세싱 블록의 크기에 대한 정보에 기초하여 프로세싱 블록의 크기를 결정할 수 있다. 도 23을 참조하면, 영상 복호화 장치(100)는 일 실시예에 따라 프로세싱 블록(2302, 2312)의 가로크기를 기준 부호화 단위 가로크기의 4배, 세로크기를 기준 부호화 단위의 세로크기의 4배로 결정할 수 있다. 영상 복호화 장치(100)는 적어도 하나의 프로세싱 블록 내에서 적어도 하나의 기준 부호화 단위가 결정되는 순서를 결정할 수 있다.
일 실시예에 따라, 영상 복호화 장치(100)는 프로세싱 블록의 크기에 기초하여 픽쳐(2300)에 포함되는 각각의 프로세싱 블록(2302, 2312)을 결정할 수 있고, 프로세싱 블록(2302, 2312)에 포함되는 적어도 하나의 기준 부호화 단위의 결정 순서를 결정할 수 있다. 일 실시예에 따라 기준 부호화 단위의 결정은 기준 부호화 단위의 크기의 결정을 포함할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 비트스트림으로부터 적어도 하나의 프로세싱 블록에 포함되는 적어도 하나의 기준 부호화 단위의 결정 순서에 대한 정보를 획득할 수 있고, 획득한 결정 순서에 대한 정보에 기초하여 적어도 하나의 기준 부호화 단위가 결정되는 순서를 결정할 수 있다. 결정 순서에 대한 정보는 프로세싱 블록 내에서 기준 부호화 단위들이 결정되는 순서 또는 방향으로 정의될 수 있다. 즉, 기준 부호화 단위들이 결정되는 순서는 각각의 프로세싱 블록마다 독립적으로 결정될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 특정 데이터 단위마다 기준 부호화 단위의 결정 순서에 대한 정보를 비트스트림으로부터 획득할 수 있다. 예를 들면, 수신부(210)는 기준 부호화 단위의 결정 순서에 대한 정보를 영상, 시퀀스, 픽쳐, 슬라이스, 슬라이스 세그먼트, 프로세싱 블록 등의 데이터 단위로마다 비트스트림으로부터 획득할 수 있다. 기준 부호화 단위의 결정 순서에 대한 정보는 프로세싱 블록 내에서의 기준 부호화 단위 결정 순서를 나타내므로, 결정 순서에 대한 정보는 정수개의 프로세싱 블록을 포함하는 특정 데이터 단위 마다 획득될 수 있다.
영상 복호화 장치(100)는 일 실시예에 따라 결정된 순서에 기초하여 적어도 하나의 기준 부호화 단위를 결정할 수 있다.
일 실시예에 따라 수신부(210)는 비트스트림으로부터 프로세싱 블록(2302, 2312)과 관련된 정보로서, 기준 부호화 단위 결정 순서에 대한 정보를 획득할 수 있고, 영상 복호화 장치(100)는 상기 프로세싱 블록(2302, 2312)에 포함된 적어도 하나의 기준 부호화 단위를 결정하는 순서를 결정하고 부호화 단위의 결정 순서에 따라 픽쳐(2300)에 포함되는 적어도 하나의 기준 부호화 단위를 결정할 수 있다. 도 23을 참조하면, 영상 복호화 장치(100)는 각각의 프로세싱 블록(2302, 2312)과 관련된 적어도 하나의 기준 부호화 단위의 결정 순서(2304, 2314)를 결정할 수 있다. 예를 들면, 기준 부호화 단위의 결정 순서에 대한 정보가 프로세싱 블록마다 획득되는 경우, 각각의 프로세싱 블록(2302, 2312)과 관련된 기준 부호화 단위 결정 순서는 프로세싱 블록마다 상이할 수 있다. 프로세싱 블록(2302)과 관련된 기준 부호화 단위 결정 순서(2304)가 래스터 스캔(raster scan)순서인 경우, 프로세싱 블록(2302)에 포함되는 기준 부호화 단위는 래스터 스캔 순서에 따라 결정될 수 있다. 이에 반해 다른 프로세싱 블록(2312)과 관련된 기준 부호화 단위 결정 순서(2314)가 래스터 스캔 순서의 역순인 경우, 프로세싱 블록(2312)에 포함되는 기준 부호화 단위는 래스터 스캔 순서의 역순에 따라 결정될 수 있다.
영상 복호화 장치(100)는 일 실시예에 따라, 결정된 적어도 하나의 기준 부호화 단위를 복호화할 수 있다. 영상 복호화 장치(100)는 상술한 실시예를 통해 결정된 기준 부호화 단위에 기초하여 영상을 복호화 할 수 있다. 기준 부호화 단위를 복호화 하는 방법은 영상을 복호화 하는 다양한 방법들을 포함할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위의 형태를 나타내는 블록 형태 정보 또는 현재 부호화 단위를 분할하는 방법을 나타내는 분할 형태 정보를 비트스트림으로부터 획득하여 이용할 수 있다. 블록 형태 정보 또는 분할 형태 정보는 다양한 데이터 단위와 관련된 비트스트림에 포함될 수 있다. 예를 들면, 영상 복호화 장치(100)는 시퀀스 파라미터 세트(sequence parameter set), 픽쳐 파라미터 세트(picture parameter set), 비디오 파라미터 세트(video parameter set), 슬라이스 헤더(slice header), 슬라이스 세그먼트 헤더(slice segment header)에 포함된 블록 형태 정보 또는 분할 형태 정보를 이용할 수 있다. 나아가, 영상 복호화 장치(100)는 최대 부호화 단위, 기준 부호화 단위, 프로세싱 블록마다 비트스트림으로부터 블록 형태 정보 또는 분할 형태 정보에 대응하는 신택스를 비트스트림으로부터 획득하여 이용할 수 있다.
이제까지 다양한 실시예들을 중심으로 살펴보았다. 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자는 본 개시가 본 개시의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 개시의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 개시에 포함된 것으로 해석되어야 할 것이다.
한편, 상술한 본 개시의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.
Claims (15)
- 영상을 복호화 하는 방법에 있어서,상기 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하는 단계;상기 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행되는 경우, 비트스트림으로부터 획득되는 제1 인트라 예측 모드 정보에 기초하여 상기 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하는 단계;상기 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하는 단계;상기 제1 예측 모드 및 상기 복수의 제2 블록마다 상기 비트스트림으로부터 획득되는 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여, 상기 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하는 단계; 및상기 제1 예측 모드 및 상기 제2 예측 모드에 기초한 인트라 예측을 수행하여 상기 영상을 복호화 하는 단계를 포함하는 영상 복호화 방법.
- 제 1 항에 있어서, 상기 제2 예측 모드를 결정하는 단계는상기 제2 인트라 예측 모드 정보를, 상기 복수의 제2 블록 중 하나인 이전 제2 블록과 관련된 상기 비트스트림으로부터 획득하는 단계; 및상기 이전 제2 블록과 관련된 제2 인트라 예측 모드 정보 및 상기 제1 인트라 예측 모드 정보 중 적어도 하나에 기초하여, 인접하는 현재 제2 블록에 대한 제2 예측 모드를 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 2 항에 있어서, 상기 현재 제2 블록에 대한 제2 예측 모드를 결정하는 단계는상기 제1 인트라 예측 모드 정보에 따라 결정되는 인트라 예측 방향 및 상기 이전 제2 블록과 관련된 제2 인트라 예측 모드 정보에 따라 결정되는 인트라 예측 방향에 기초하여, 상기 현재 제2 블록에서 이용되는 기준 인트라 예측 방향을 결정하는 단계; 및상기 현재 제2 블록과 관련하여 획득되는 제2 인트라 예측 모드 정보에 기초하여, 상기 기준 인트라 예측 방향을 포함하는 복수의 인트라 예측 방향 중 하나를 이용하는 예측 모드를 상기 현재 제2 블록에 대한 상기 제2 예측 모드로서 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 3 항에 있어서, 상기 현재 제2 블록에 대한 제2 예측 모드를 결정하는 단계는상기 현재 제2 블록이 상기 복수의 제2 블록 중 마지막 제2 블록인 경우, 상기 기준 인트라 예측 방향을 이용하는 예측 모드를 상기 현재 제2 블록에 대한 상기 제2 예측 모드로서 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 3 항에 있어서,상기 현재 제2 블록에서 상기 제2 인트라 예측 모드 정보에 기초하여 결정될 수 있는 인트라 예측 모드들 간의 인덱스 값의 차이는 균일한 것을 특징으로 하는 영상 복호화 방법.
- 제 3 항에 있어서,상기 현재 제2 블록에서 상기 제2 인트라 예측 모드 정보에 기초하여 결정될 수 있는 인트라 예측 모드들 간의 인덱스 값의 차이는 불균일한 것을 특징으로 하는 영상 복호화 방법.
- 제 1 항에 있어서, 상기 제1 예측 모드를 결정하는 단계는상기 현재 제1 블록에 인접하는 주변 제1 블록과 관련된 상기 비트스트림으로부터 획득된 제1 인트라 예측 모드 정보에 기초하여, 상기 현재 제1 블록의 인트라 예측 모드를 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 1 항에 있어서, 상기 제1 예측 모드를 결정하는 단계는상기 현재 제1 블록과 관련된 상기 비트스트림으로부터 획득된 제1 인트라 예측 모드 정보에 기초하여 상기 제1 예측 모드를 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 1 항에 있어서, 상기 제2 예측 모드를 결정하는 단계는상기 제1 예측 모드 및 상기 제2 예측 모드에 기초하여 인트라 예측을 수행할지를 나타내는 플래그를 비트스트림으로부터 획득하는 단계; 및상기 플래그가 상기 제1 예측 모드 및 상기 제2 예측 모드에 기초하여 인트라 예측을 수행할지를 나타내는 경우, 상기 복수의 제2 블록마다 제2 인트라 예측 모드 정보를 상기 비트스트림으로부터 획득하여 상기 제2 예측 모드를 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 1 항에 있어서, 상기 제2 예측 모드를 결정하는 단계는상기 제1 예측 모드가 방향성 인트라 예측 모드를 나타내는 경우, 상기 제1 예측 모드와 관련된 인트라 예측 방향에 기초하여 상기 복수의 제2 블록 중 동일한 행 또는 동일한 열에 위치하는 제2 블록들의 제2 예측 모드를 동일하게 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 1 항에 있어서, 상기 복수의 제2 블록을 결정하는 단계는상기 제1 블록에 포함되는 비-정사각형의 형태의 상기 복수의 제2 블록을 결정하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법.
- 제 1 항에 있어서,상기 제1 블록은 부호화 단위이고, 상기 제2 블록은 변환 단위인 것을 특징으로 하는 영상 복호화 방법.
- 영상을 복호화 하는 장치에 있어서제1 인트라 예측 모드 정보 및 제2 인트라 예측 모드 정보를 비트스트림으로부터 획득하는 비트스트림 획득부; 및상기 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하고, 상기 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행될지를 결정하고, 상기 현재 제1 블록에서 인트라 예측이 수행되는 경우, 상기 제1 인트라 예측 모드 정보에 기초하여 상기 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하고, 상기 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하고, 제1 예측 모드 및 상기 복수의 제2 블록마다 상기 제2 인트라 예측 모드 정보 중 적어도 하나에 기초하여 상기 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하고, 상기 제1 예측 모드 및 상기 제2 예측 모드에 기초한 인트라 예측을 수행하여 상기 영상을 복호화 하는 복호화부를 포함하는 영상 복호화 장치.
- 영상을 부호화 하는 방법에 있어서상기 영상에 포함된 적어도 하나의 프레임 중 하나인 현재 프레임을 분할하는 적어도 하나의 제1 블록을 결정하는 단계;상기 적어도 하나의 제1 블록 중 하나인 현재 제1 블록에서 인트라 예측이 수행될지를 결정하는 단계;상기 현재 제1 블록에서 인트라 예측이 수행되는 경우, 상기 현재 제1 블록에서 수행될 인트라 예측 방법을 나타내는 제1 예측 모드를 결정하는 단계;상기 현재 제1 블록에 포함되는 복수의 제2 블록을 결정하는 단계;상기 제1 예측 모드에 기초하여 상기 복수의 제2 블록에서 수행될 인트라 예측 방법을 나타내는 제2 예측 모드를 결정하는 단계;상기 제1 예측 모드 및 상기 제2 예측 모드에 기초한 인트라 예측을 수행하여 상기 영상을 부호화하는 단계; 및상기 부호화된 영상 데이터, 상기 현재 제1 예측 모드를 나타내는 제1 인트라 예측 모드 정보, 상기 제2 예측 모드를 나타내는 제2 인트라 예측 모드 정보를 포함하는 비트스트림을 생성하는 단계를 포함하는 영상 부호화 방법.
- 제 1 항에 있어서, 상기 영상 복호화 방법을 수행하는 컴퓨터 프로그램이 수록된 컴퓨터 판독가능 기록매체.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/781,776 US10742974B2 (en) | 2015-12-17 | 2016-12-16 | Method for encoding/decoding image and device thereof |
KR1020187015703A KR20180086203A (ko) | 2015-12-17 | 2016-12-16 | 영상을 부호화/복호화 하는 방법 및 그 장치 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562268689P | 2015-12-17 | 2015-12-17 | |
US62/268,689 | 2015-12-17 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2017105141A1 true WO2017105141A1 (ko) | 2017-06-22 |
Family
ID=59057088
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/KR2016/014826 WO2017105141A1 (ko) | 2015-12-17 | 2016-12-16 | 영상을 부호화/복호화 하는 방법 및 그 장치 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10742974B2 (ko) |
KR (1) | KR20180086203A (ko) |
WO (1) | WO2017105141A1 (ko) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190174145A1 (en) * | 2017-12-05 | 2019-06-06 | Qualcomm Incorporated | Intra-prediction with far neighboring pixels |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10555006B2 (en) * | 2016-12-22 | 2020-02-04 | Qualcomm Incorporated | Deriving bilateral filter information based on a prediction mode in video coding |
CN115633170A (zh) * | 2016-12-23 | 2023-01-20 | 华为技术有限公司 | 一种用于矩形视频编码块的解码方法、装置及计算机可读存储介质 |
US11496747B2 (en) * | 2017-03-22 | 2022-11-08 | Qualcomm Incorporated | Intra-prediction mode propagation |
US11172203B2 (en) * | 2017-08-08 | 2021-11-09 | Mediatek Inc. | Intra merge prediction |
GB2567861A (en) * | 2017-10-27 | 2019-05-01 | Sony Corp | Image data encoding and decoding |
CN111512628B (zh) * | 2017-12-22 | 2023-05-23 | 数码士有限公司 | 视频信号处理方法和设备 |
US10630979B2 (en) * | 2018-07-16 | 2020-04-21 | Tencent America LLC | Reference sample padding and filtering for intra prediction in video compression |
JP7324065B2 (ja) * | 2019-06-26 | 2023-08-09 | キヤノン株式会社 | 動きベクトル検出装置、撮像装置、動きベクトル検出方法、及びプログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010038951A2 (ko) * | 2008-10-01 | 2010-04-08 | 에스케이텔레콤 주식회사 | 영상 부호화/복호화 방법 및 장치 |
WO2012161445A2 (ko) * | 2011-05-20 | 2012-11-29 | 주식회사 케이티 | 단거리 인트라 예측 단위 복호화 방법 및 복호화 장치 |
KR20140054464A (ko) * | 2010-07-09 | 2014-05-08 | 퀄컴 인코포레이티드 | 사이즈 및 인트라 모드에 기초한 또는 에지 검출에 기초한 인트라 블록들 코딩을 위한 적응적 주파수 변환들 |
KR20150027530A (ko) * | 2013-09-04 | 2015-03-12 | 한국전자통신연구원 | Hevc 부호화 장치 및 이를 이용한 부호화 방법 |
KR20150093633A (ko) * | 2010-11-08 | 2015-08-18 | 성균관대학교산학협력단 | 다단계 예측을 이용한 영상 부/복호화 방법 및 이러한 방법을 사용하는 부/복호화 장치 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2393296A1 (en) * | 2009-01-29 | 2011-12-07 | Panasonic Corporation | Image coding method and image decoding method |
KR101510108B1 (ko) | 2009-08-17 | 2015-04-10 | 삼성전자주식회사 | 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치 |
US20130163664A1 (en) * | 2011-12-22 | 2013-06-27 | Qualcomm Incorporated | Unified partition mode table for intra-mode coding |
WO2017052118A1 (ko) * | 2015-09-23 | 2017-03-30 | 엘지전자 주식회사 | 영상 코딩 시스템에서 인트라 예측 방법 및 장치 |
-
2016
- 2016-12-16 KR KR1020187015703A patent/KR20180086203A/ko unknown
- 2016-12-16 US US15/781,776 patent/US10742974B2/en active Active
- 2016-12-16 WO PCT/KR2016/014826 patent/WO2017105141A1/ko active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010038951A2 (ko) * | 2008-10-01 | 2010-04-08 | 에스케이텔레콤 주식회사 | 영상 부호화/복호화 방법 및 장치 |
KR20140054464A (ko) * | 2010-07-09 | 2014-05-08 | 퀄컴 인코포레이티드 | 사이즈 및 인트라 모드에 기초한 또는 에지 검출에 기초한 인트라 블록들 코딩을 위한 적응적 주파수 변환들 |
KR20150093633A (ko) * | 2010-11-08 | 2015-08-18 | 성균관대학교산학협력단 | 다단계 예측을 이용한 영상 부/복호화 방법 및 이러한 방법을 사용하는 부/복호화 장치 |
WO2012161445A2 (ko) * | 2011-05-20 | 2012-11-29 | 주식회사 케이티 | 단거리 인트라 예측 단위 복호화 방법 및 복호화 장치 |
KR20150027530A (ko) * | 2013-09-04 | 2015-03-12 | 한국전자통신연구원 | Hevc 부호화 장치 및 이를 이용한 부호화 방법 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190174145A1 (en) * | 2017-12-05 | 2019-06-06 | Qualcomm Incorporated | Intra-prediction with far neighboring pixels |
US11070847B2 (en) * | 2017-12-05 | 2021-07-20 | Qualcomm Incorporated | Intra-prediction with far neighboring pixels |
Also Published As
Publication number | Publication date |
---|---|
US20180367793A1 (en) | 2018-12-20 |
US10742974B2 (en) | 2020-08-11 |
KR20180086203A (ko) | 2018-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017105141A1 (ko) | 영상을 부호화/복호화 하는 방법 및 그 장치 | |
WO2017090993A1 (ko) | 비디오 복호화 방법 및 그 장치 및 비디오 부호화 방법 및 그 장치 | |
WO2017105097A1 (ko) | 머지 후보 리스트를 이용한 비디오 복호화 방법 및 비디오 복호화 장치 | |
WO2017135759A1 (ko) | 크로마 다중 변환에 의한 비디오 복호화 방법 및 장치, 크로마 다중 변환에 의한 비디오 부호화 방법 및 장치 | |
WO2018070550A1 (ko) | 픽처 외곽선의 부호화 단위를 부호화 또는 복호화하는 방법 및 장치 | |
WO2017122997A1 (ko) | 영상 부호화 방법 및 장치와 영상 복호화 방법 및 장치 | |
WO2018070554A1 (ko) | 루마 블록 및 크로마 블록을 부호화 또는 복호화하는 방법 및 장치 | |
WO2017142335A1 (ko) | 비디오 복호화 방법 및 그 장치 및 비디오 부호화 방법 및 그 장치 | |
WO2019168244A1 (ko) | 부호화 방법 및 그 장치, 복호화 방법 및 그 장치 | |
WO2017142319A1 (ko) | 영상 부호화 방법 및 장치와 영상 복호화 방법 및 장치 | |
WO2017209394A1 (en) | Methods and apparatuses for encoding and decoding video according to coding order | |
WO2018124653A1 (ko) | 인트라 예측에서 참조 샘플을 필터링하는 방법 및 장치 | |
WO2017026681A1 (ko) | 비디오 코딩 시스템에서 인터 예측 방법 및 장치 | |
WO2019225993A1 (ko) | 비디오 신호 처리 방법 및 장치 | |
WO2017142327A1 (ko) | 인트라 예측오차의 감소를 위한 인트라 예측 방법 및 그 장치 | |
WO2019009618A1 (ko) | 영상 부호화 방법 및 장치, 영상 복호화 방법 및 장치 | |
WO2017142326A1 (ko) | 비디오 부호화 방법 및 장치, 그 복호화 방법 및 장치 | |
WO2018070552A1 (ko) | 영상을 부호화/복호화 하는 방법 및 그 장치 | |
WO2020055169A1 (ko) | 인터 예측을 이용한 영상 부호화/복호화 방법 및 장치 | |
WO2018012893A1 (ko) | 영상을 부호화/복호화 하는 방법 및 그 장치 | |
WO2018194189A1 (ko) | 영상을 부호화/복호화 하는 방법 및 그 장치 | |
WO2017090968A1 (ko) | 영상을 부호화/복호화 하는 방법 및 그 장치 | |
WO2019098464A1 (ko) | 부호화 방법 및 그 장치, 복호화 방법 및 그 장치 | |
WO2020130745A1 (ko) | 부호화 방법 및 그 장치, 복호화 방법 및 그 장치 | |
EP3437318A1 (en) | Methods and apparatuses for encoding and decoding video according to coding order |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 16876083 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 20187015703 Country of ref document: KR Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 16876083 Country of ref document: EP Kind code of ref document: A1 |