WO2018101100A1 - 画像フィルタ装置 - Google Patents

画像フィルタ装置 Download PDF

Info

Publication number
WO2018101100A1
WO2018101100A1 PCT/JP2017/041624 JP2017041624W WO2018101100A1 WO 2018101100 A1 WO2018101100 A1 WO 2018101100A1 JP 2017041624 W JP2017041624 W JP 2017041624W WO 2018101100 A1 WO2018101100 A1 WO 2018101100A1
Authority
WO
WIPO (PCT)
Prior art keywords
offset
unit
pixel
image
category
Prior art date
Application number
PCT/JP2017/041624
Other languages
English (en)
French (fr)
Inventor
友子 青野
知宏 猪飼
貴也 山本
知典 橋本
Original Assignee
シャープ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シャープ株式会社 filed Critical シャープ株式会社
Publication of WO2018101100A1 publication Critical patent/WO2018101100A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Definitions

  • Embodiments described herein relate generally to an image filter device.
  • an image encoding device that generates encoded data by encoding the moving image, and image decoding that generates a decoded image by decoding the encoded data The device is used.
  • the moving image encoding method include a method proposed in H.264 / AVC and HEVC (High-Efficiency Video Coding).
  • an image (picture) constituting a moving image is a slice obtained by dividing the image, a coding unit obtained by dividing the slice (coding unit (Coding Unit : CU)), and a hierarchical structure consisting of a prediction unit (PU) and a transform unit (TU) that are blocks obtained by dividing a coding unit. Decrypted.
  • a predicted image is usually generated based on a local decoded image obtained by encoding / decoding an input image, and the predicted image is generated from the input image (original image).
  • a prediction residual obtained by subtraction (sometimes referred to as “difference image” or “residual image”) is encoded.
  • Examples of the method for generating a predicted image include inter-screen prediction (inter prediction) and intra-screen prediction (intra prediction).
  • inter prediction inter prediction
  • intra-screen prediction intra-screen prediction
  • Non-Patent Document 1 can be cited as a technique for encoding and decoding moving images in recent years.
  • Non-Patent Document 2 in addition to a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) as a loop filter, the peak SAO of Non-Patent Document 2 has also been proposed.
  • SAO sample adaptive offset
  • ALF adaptive loop filter
  • the types of loop filters applied to decoded images are increasing as deblocking filters, SAO, ALF, and peak SAO (PO).
  • SAO deblocking filters
  • ALF ALF
  • PO peak SAO
  • the offset type EO of SAO uses changes in pixel values in the one-dimensional direction
  • PO peak SAO
  • the present invention realizes processing that takes advantage of both characteristics by deleting redundant parts or sharing some information in the combination of PO and SAO, and encoding while suppressing an increase in processing amount.
  • the purpose is to improve the efficiency.
  • Embodiment of this application is the 1st image filter apparatus which adds 1st offset to each pixel value of the some encoding unit which comprises the decoded image produced
  • a first adding unit that adds, to the target pixel value, a first offset obtained by referring to the first category and the first class among a plurality of first offsets decoded from the digitized data;
  • the setting unit uses an adjacent pixel of the target pixel as a reference pixel to set the first category and the first class, and the reference pixel is adjacent to the target pixel in the horizontal and vertical directions 4.
  • Pixel and target pixel, upper left and lower right Switch the four adjacent pixels in the lower left upper right direction.
  • Embodiment of this application is the 1st image filter apparatus which adds a 1st offset to each pixel value of the some encoding unit which comprises the residual image and the prediction image and which comprises the local decoding image produced
  • generated A first setting unit for setting a first category indicating a change pattern of a pixel value in a two-dimensional direction and a first class indicating a change amount of the pixel value in a two-dimensional direction with respect to the target pixel;
  • a calculation unit that calculates a first offset, and a first offset obtained by referring to the first category and the first class among the calculated first offsets as the target pixel value
  • a first addition unit for adding, the setting unit uses a neighboring pixel of the target pixel as a reference pixel in order to set the first category and the first class, and the reference pixel is a target pixel
  • four horizontal and vertical adjacent pixels Image filter apparatus comprising a first image filter device characterized by relative target pixel switching the four adjacent pixels in the upper left lower right-lower left upper
  • FIG. 1 is a schematic diagram illustrating a configuration of an image transmission system according to a first embodiment. It is a figure which shows the hierarchical structure of the data of the encoding stream which concerns on Embodiment 1.
  • FIG. It is a figure which shows the pattern of PU division
  • It is a conceptual diagram which shows an example of a reference picture and a reference picture list. It is a block diagram which shows the structure of the image decoding apparatus which concerns on Embodiment 1.
  • FIG. It is a block diagram which shows the structure of the image coding apparatus which concerns on Embodiment 1.
  • FIG. It is a figure which shows the relationship between the object pixel for every EO class of SAO, and a reference pixel. It is the figure shown about the structure of the transmitter which mounts the image coding apparatus which concerns on Embodiment 1, and the receiver which mounts an image decoding apparatus.
  • (A) shows a transmission device equipped with an image encoding device
  • FIG. 6 is a block diagram of the SAO unit 314 shown in FIG. It is a flowchart which shows operation
  • FIG. 6 is a block diagram of the SAO unit 314 shown in FIG. It is a flowchart which shows operation
  • FIG. 10 is a diagram showing a relationship between target pixels and reference pixels in EO and PO of SAO according to Embodiment 5. It is a figure explaining the band of BO of SAO.
  • FIG. 7 is a block diagram of SAO_E unit 115 shown in FIG. 6. It is a flowchart which shows operation
  • FIG. 21 is a flowchart showing an operation of a PO category / PO class setting unit in FIG. 20.
  • FIG. 10 is a combination table of one-dimensional EO according to the second embodiment.
  • FIG. 21 is another example of a flowchart showing the operation of the PO category / PO class setting unit in FIG. 20.
  • FIG. 21 is a flowchart showing an operation in Modification 1 of the PO category / PO class setting unit in FIG. 20.
  • FIG. 10 is a flowchart showing the operation of the SAO unit in Modification 1.
  • FIG. 10 is a block diagram of a SAO unit and a PO unit on the decoding device side in Modification 2.
  • FIG. 10 is a block diagram of a SAO_E unit and a PO_E unit on the encoding device side in Modification 2.
  • 10 is a flowchart illustrating an operation of a category setting unit according to a second modification.
  • 10 is a flowchart showing an operation of a PO category / PO class setting unit according to a second modification.
  • 10 is a table showing the relationship between one-dimensional EO combinations and pcat in Embodiment 3.
  • 14 is a table showing ( ⁇ , ⁇ ) used for calculating Cmax in the sixth embodiment.
  • 10 is a flowchart illustrating an operation of a category setting unit according to the second embodiment.
  • 10 is a flowchart illustrating an operation of an offset information selection unit according to the second embodiment.
  • 18 is an example of a variable-length code table used for offset binarization in the seventh embodiment.
  • 10 is a flowchart illustrating operations of a PO unit and an SAO unit according to the third embodiment.
  • 10 is a flowchart illustrating operations of a PO unit and an SAO unit according to the fourth embodiment.
  • 14 is a flowchart illustrating an operation of a PO category / PO class setting unit according to the sixth embodiment.
  • FIG. 1 is a schematic diagram illustrating a configuration of an image transmission system 1 according to the present embodiment.
  • the image transmission system 1 is a system that transmits a code obtained by encoding an encoding target image, decodes the transmitted code, and displays an image.
  • the image transmission system 1 includes an image encoding device 11, a network 21, an image decoding device 31, and an image display device 41.
  • the image encoding device 11 receives an image T indicating a single layer image or a plurality of layers.
  • a layer is a concept used to distinguish a plurality of pictures when there are one or more pictures constituting a certain time. For example, when the same picture is encoded with a plurality of layers having different image quality and resolution, scalable encoding is performed, and when a picture of a different viewpoint is encoded with a plurality of layers, view scalable encoding is performed.
  • inter-layer prediction, inter-view prediction When prediction is performed between pictures of a plurality of layers (inter-layer prediction, inter-view prediction), encoding efficiency is greatly improved. Further, even when prediction is not performed (simultaneous casting), encoded data can be collected.
  • the network 21 transmits the encoded stream Te generated by the image encoding device 11 to the image decoding device 31.
  • the network 21 is the Internet, a wide area network (WAN: Wide Area Network), a small network (LAN: Local Area Network), or a combination thereof.
  • the network 21 is not necessarily limited to a bidirectional communication network, and may be a unidirectional communication network that transmits broadcast waves such as terrestrial digital broadcasting and satellite broadcasting.
  • the network 21 may be replaced with a storage medium that records an encoded stream Te such as a DVD (Digital Versatile Disc) or a BD (Blu-ray (registered trademark) Disc).
  • the image decoding device 31 decodes each of the encoded streams Te transmitted by the network 21, and generates one or a plurality of decoded images Td decoded.
  • the image display device 41 displays all or part of one or more decoded images Td generated by the image decoding device 31.
  • the image display device 41 includes, for example, a display device such as a liquid crystal display or an organic EL (Electro-luminescence) display.
  • a display device such as a liquid crystal display or an organic EL (Electro-luminescence) display.
  • a high-quality enhancement layer image is displayed and only a lower processing capability is provided. Displays a base layer image that does not require higher processing capability and display capability as an extension layer.
  • X? Y: z is a ternary operator that takes y when x is true (non-zero) and takes z when x is false (0).
  • FIG. 2 is a diagram showing a hierarchical structure of data in the encoded stream Te.
  • the encoded stream Te illustratively includes a sequence and a plurality of pictures constituting the sequence.
  • (A) to (f) of FIG. 2 respectively show an encoded video sequence defining a sequence SEQ, an encoded picture defining a picture PICT, an encoded slice defining a slice S, and an encoded slice defining a slice data
  • the encoded video sequence In the encoded video sequence, a set of data referred to by the image decoding device 31 for decoding the sequence SEQ to be processed is defined. As shown in FIG. 2A, the sequence SEQ includes a video parameter set (Video Parameter Set), a sequence parameter set SPS (Sequence Parameter Set), a picture parameter set PPS (Picture Parameter Set), a picture PICT, and an addition. Includes SEI (Supplemental Enhancement Information). Here, the value indicated after # indicates the layer ID.
  • FIG. 2 shows an example in which encoded data of # 0 and # 1, that is, layer 0 and layer 1, exists, but the type of layer and the number of layers are not dependent on this.
  • the video parameter set VPS is a set of encoding parameters common to a plurality of moving images, a plurality of layers included in the moving image, and encoding parameters related to individual layers in a moving image composed of a plurality of layers.
  • a set is defined.
  • the sequence parameter set SPS defines a set of encoding parameters that the image decoding device 31 refers to in order to decode the target sequence. For example, the width and height of the picture are defined. A plurality of SPSs may exist. In that case, one of a plurality of SPSs is selected from the PPS.
  • a set of encoding parameters referred to by the image decoding device 31 in order to decode each picture in the target sequence is defined.
  • a quantization width reference value (pic_init_qp_minus26) used for picture decoding and a flag (weighted_pred_flag) indicating application of weighted prediction are included.
  • the picture PICT includes slices S0 to S NS-1 (NS is the total number of slices included in the picture PICT).
  • the coded slice In the coded slice, a set of data referred to by the image decoding device 31 for decoding the slice S to be processed is defined. As shown in FIG. 2C, the slice S includes a slice header SH and slice data SDATA.
  • the slice header SH includes an encoding parameter group that is referred to by the image decoding device 31 in order to determine a decoding method of the target slice.
  • Slice type designation information (slice_type) for designating a slice type is an example of an encoding parameter included in the slice header SH.
  • I slice using only intra prediction at the time of encoding (2) P slice using unidirectional prediction or intra prediction at the time of encoding, (3) B-slice using unidirectional prediction, bidirectional prediction, or intra prediction at the time of encoding may be used.
  • the slice header SH may include a reference (pic_parameter_set_id) to the picture parameter set PPS included in the encoded video sequence.
  • the slice data SDATA includes a coding tree unit (CTU).
  • the CTU is a rectangle of a fixed size (for example, 64x64) that constitutes a slice, and may be referred to as a maximum coding unit (LCU).
  • Encoding tree unit As shown in (e) of FIG. 2, a set of data referred to by the image decoding device 31 in order to decode the processing target coding tree unit is defined.
  • the coding tree unit is divided by recursive quadtree division (QT division) or binary tree division (BT division).
  • a node having a tree structure obtained by recursive quadtree partitioning or binary tree partitioning is referred to as a coding node (CN).
  • An intermediate node of the quadtree and the binary tree is a coding tree (CT), and the coding tree unit itself is also defined as the highest-level coding tree.
  • the CTU includes a QT split flag (cu_split_flag) indicating whether or not to perform QT split, and a BT split mode (split_bt_mode) indicating a split method of BT split.
  • cu_split_flag 1
  • cu_split_flag 1
  • cu_split_flag 0
  • the coding node CN is not divided and has one coding unit (CU: Coding Unit) as a node.
  • split_bt_mode when split_bt_mode is 2, it is horizontally divided into two coding nodes CN.
  • split_bt_mode When split_bt_mode is 1, it is vertically divided into two coding nodes CN.
  • the encoding node CN is not divided and has one encoding unit CU as a node.
  • the coding unit CU is the end node of the coding tree and is not further divided.
  • the encoding unit CU is a basic unit of the encoding process.
  • the size of the coding unit that can be taken when the size of the coding tree unit CTU is 64x64 pixels is, for example, 64x64 pixels, 64x32 pixels, 32x64 pixels, 32x32 pixels, 64x16 pixels, 16x64 pixels, 32x16 pixels, 16x32 pixels, 16x16 pixels, One of 64 ⁇ 8 pixels, 8 ⁇ 64 pixels, 32 ⁇ 8 pixels, 8 ⁇ 32 pixels, 16 ⁇ 8 pixels, 8 ⁇ 16 pixels, and 8 ⁇ 8 pixels.
  • other sizes may be used depending on restrictions on the number and combination of divisions and the size of the encoding unit.
  • the encoding unit As shown in (f) of FIG. 2, a set of data referred to by the image decoding device 31 in order to decode the encoding unit to be processed is defined. Specifically, the encoding unit includes a prediction tree, a conversion tree, and a CU header CUH. In the CU header, a prediction mode, a division method (PU division mode), and the like are defined.
  • prediction information (a reference picture index, a motion vector, etc.) of each prediction unit (PU) obtained by dividing the coding unit into one or a plurality is defined.
  • the prediction unit is one or a plurality of non-overlapping areas constituting the encoding unit.
  • the prediction tree includes one or a plurality of prediction units obtained by the above-described division.
  • a prediction unit obtained by further dividing the prediction unit is referred to as a “sub-block”.
  • the sub block is composed of a plurality of pixels.
  • the number of sub-blocks in the prediction unit is one.
  • the prediction unit is larger than the size of the sub-block, the prediction unit is divided into sub-blocks. For example, when the prediction unit is 8 ⁇ 8 and the sub-block is 4 ⁇ 4, the prediction unit is divided into four sub-blocks that are divided into two horizontally and two vertically.
  • the prediction process may be performed for each prediction unit (sub block).
  • Intra prediction is prediction within the same picture
  • inter prediction refers to prediction processing performed between different pictures (for example, between display times and between layer images).
  • the division method is encoded by the PU division mode (part_mode) of encoded data, 2Nx2N (same size as the encoding unit), 2NxN, 2NxnU, 2NxnD, Nx2N, nLx2N, nRx2N, and NxN etc.
  • 2NxN and Nx2N indicate 1: 1 symmetrical division, 2NxnU, 2NxnD and nLx2N, nRx2N show a 1: 3, 3: 1 asymmetric partitioning.
  • the PUs included in the CU are expressed as PU0, PU1, PU2, and PU3 in this order.
  • FIG. 3 specifically show the partition shape (the position of the boundary of the PU partition) in each PU partition mode.
  • 3A shows a 2Nx2N partition
  • FIGS. 3B, 3C, and 2D show 2NxN, 2NxnU, and 2NxnD partitions (horizontal partitions), respectively.
  • E), (f), and (g) show partitions (vertical partitions) in the case of Nx2N, nLx2N, and nRx2N, respectively, and (h) shows an NxN partition.
  • the horizontal partition and the vertical partition are collectively referred to as a rectangular partition
  • 2Nx2N and NxN are collectively referred to as a square partition.
  • the encoding unit is divided into one or a plurality of conversion units, and the position and size of each conversion unit are defined.
  • a transform unit is one or more non-overlapping areas that make up a coding unit.
  • the conversion tree includes one or a plurality of conversion units obtained by the above-described division.
  • the division in the conversion tree includes a case where an area having the same size as the encoding unit is assigned as a conversion unit, and a case where recursive quadtree division is used, as in the case of the CU division described above.
  • Conversion processing is performed for each conversion unit.
  • the prediction parameter includes prediction list use flags predFlagL0 and predFlagL1, reference picture indexes refIdxL0 and refIdxL1, and motion vectors mvL0 and mvL1.
  • the prediction list use flags predFlagL0 and predFlagL1 are flags indicating whether or not reference picture lists called L0 list and L1 list are used, respectively, and a reference picture list corresponding to a value of 1 is used.
  • flag indicating whether or not it is XX when “flag indicating whether or not it is XX” is described, when the flag is not 0 (for example, 1) is XX, 0 is not XX, and logical negation, logical product, etc. 1 is treated as true and 0 is treated as false (the same applies hereinafter).
  • flag when the flag is not 0 (for example, 1) is XX, 0 is not XX, and logical negation, logical product, etc. 1 is treated as true and 0 is treated as false (the same applies hereinafter).
  • other values can be used as true values and false values in an actual apparatus or method.
  • Syntax elements for deriving inter prediction parameters included in the encoded data include, for example, PU partition mode part_mode, merge flag merge_flag, merge index merge_idx, inter prediction identifier inter_pred_idc, reference picture index refIdxLX, prediction vector index mvp_LX_idx, There is a difference vector mvdLX.
  • the reference picture list is a list including reference pictures stored in the reference picture memory 306.
  • FIG. 4 is a conceptual diagram illustrating an example of a reference picture and a reference picture list.
  • a rectangle is a picture
  • an arrow is a reference relationship of the picture
  • a horizontal axis is time
  • I, P, and B in the rectangle are an intra picture
  • a single prediction picture a bi-prediction picture
  • numbers in the rectangle are Indicates the decoding order.
  • the decoding order of pictures is I0, P1, B2, B3, and B4
  • the display order is I0, B3, B2, B4, and P1.
  • FIG. 4B shows an example of the reference picture list.
  • the reference picture list is a list representing candidate reference pictures, and one picture (slice) may have one or more reference picture lists.
  • the target picture B3 has two reference picture lists, an L0 list RefPicList0 and an L1 list RefPicList1.
  • the reference pictures are I0, P1, and B2, and the reference picture has these pictures as elements.
  • refIdxLX the reference picture index
  • the figure shows an example in which reference pictures P1 and B2 are referenced by refIdxL0 and refIdxL1.
  • the prediction parameter decoding (encoding) method includes a merge prediction (merge) mode and an AMVP (Adaptive Motion Vector Prediction) mode.
  • the merge flag merge_flag is a flag for identifying these.
  • the merge prediction mode is a mode in which the prediction list use flag predFlagLX (or inter prediction identifier inter_pred_idc), the reference picture index refIdxLX, and the motion vector mvLX are not included in the encoded data and are derived from the prediction parameters of already processed neighboring PUs.
  • the AMVP mode is a mode in which the inter prediction identifier inter_pred_idc, the reference picture index refIdxLX, and the motion vector mvLX are included in the encoded data.
  • the motion vector mvLX is encoded as a prediction vector index mvp_LX_idx for identifying the prediction vector mvpLX and a difference vector mvdLX.
  • the inter prediction identifier inter_pred_idc is a value indicating the type and number of reference pictures, and takes one of PRED_L0, PRED_L1, and PRED_BI.
  • PRED_L0 and PRED_L1 indicate that reference pictures managed by the reference picture lists of the L0 list and the L1 list are used, respectively, and that one reference picture is used (single prediction).
  • PRED_BI indicates that two reference pictures are used (bi-prediction BiPred), and reference pictures managed by the L0 list and the L1 list are used.
  • the prediction vector index mvp_LX_idx is an index indicating a prediction vector
  • the reference picture index refIdxLX is an index indicating a reference picture managed in the reference picture list.
  • LX is a description method used when L0 prediction and L1 prediction are not distinguished from each other. By replacing LX with L0 and L1, parameters for the L0 list and parameters for the L1 list are distinguished.
  • the merge index merge_idx is an index that indicates whether one of the prediction parameter candidates (merge candidates) derived from the processed PU is used as the prediction parameter of the decoding target PU.
  • the motion vector mvLX indicates a shift amount between blocks on two different pictures.
  • a prediction vector and a difference vector related to the motion vector mvLX are referred to as a prediction vector mvpLX and a difference vector mvdLX, respectively.
  • Inter prediction identifier inter_pred_idc and prediction list use flag predFlagLX The relationship between the inter prediction identifier inter_pred_idc and the prediction list use flags predFlagL0 and predFlagL1 is as follows and can be converted into each other.
  • the flag biPred as to whether it is a bi-prediction BiPred can be derived depending on whether the two prediction list use flags are both 1. For example, it can be derived by the following formula.
  • the flag biPred can also be derived depending on whether or not the inter prediction identifier is a value indicating that two prediction lists (reference pictures) are used. For example, it can be derived by the following formula.
  • FIG. 5 is a block diagram illustrating a configuration of the image decoding device 31 according to the present embodiment.
  • the image decoding device 31 includes an entropy decoding unit 301, a prediction parameter decoding unit (prediction image decoding device) 302, a loop filter 305, a reference picture memory 306, a prediction parameter memory 307, a prediction image generation unit (prediction image generation device) 308, and inversely.
  • a quantization / inverse DCT unit 311 and an addition unit 312 are included.
  • the prediction parameter decoding unit 302 includes an inter prediction parameter decoding unit 303 and an intra prediction parameter decoding unit 304.
  • the predicted image generation unit 308 includes an inter predicted image generation unit 309 and an intra predicted image generation unit 310.
  • the entropy decoding unit 301 performs entropy decoding on the coded stream Te input from the outside, and separates and decodes individual codes (syntax elements).
  • the separated codes include prediction information for generating a prediction image and residual information for generating a difference image.
  • the entropy decoding unit 301 outputs a part of the separated code to the prediction parameter decoding unit 302.
  • Some of the separated codes are, for example, a prediction mode predMode, a PU partition mode part_mode, a merge flag merge_flag, a merge index merge_idx, an inter prediction identifier inter_pred_idc, a reference picture index refIdxLX, a prediction vector index mvp_LX_idx, and a difference vector mvdLX.
  • Control of which code is decoded is performed based on an instruction from the prediction parameter decoding unit 302.
  • the entropy decoding unit 301 outputs the quantization coefficient to the inverse quantization / inverse DCT unit 311.
  • the quantization coefficient is a coefficient obtained by performing quantization by performing DCT (Discrete Cosine Transform) on the residual signal in the encoding process.
  • the inter prediction parameter decoding unit 303 decodes the inter prediction parameter with reference to the prediction parameter stored in the prediction parameter memory 307 based on the code input from the entropy decoding unit 301.
  • the inter prediction parameter decoding unit 303 outputs the decoded inter prediction parameter to the prediction image generation unit 308 and stores it in the prediction parameter memory 307. Details of the inter prediction parameter decoding unit 303 will be described later.
  • the intra prediction parameter decoding unit 304 refers to the prediction parameter stored in the prediction parameter memory 307 on the basis of the code input from the entropy decoding unit 301 and decodes the intra prediction parameter.
  • the intra prediction parameter is a parameter used in a process of predicting a CU within one picture, for example, an intra prediction mode IntraPredMode.
  • the intra prediction parameter decoding unit 304 outputs the decoded intra prediction parameter to the prediction image generation unit 308 and stores it in the prediction parameter memory 307.
  • the intra prediction parameter decoding unit 304 may derive different intra prediction modes depending on luminance and color difference.
  • the intra prediction parameter decoding unit 304 decodes the luminance prediction mode IntraPredModeY as the luminance prediction parameter and the color difference prediction mode IntraPredModeC as the color difference prediction parameter.
  • the luminance prediction mode IntraPredModeY is a 35 mode, and corresponds to planar prediction (0), DC prediction (1), and direction prediction (2 to 34).
  • the color difference prediction mode IntraPredModeC uses one of the planar prediction (0), the DC prediction (1), the direction prediction (2 to 34), and the LM mode (35).
  • the intra prediction parameter decoding unit 304 decodes a flag indicating whether IntraPredModeC is the same mode as the luminance mode. If the flag indicates that the mode is the same as the luminance mode, IntraPredModeC is assigned to IntraPredModeC, and the flag is luminance. If the mode is different from the mode, planar prediction (0), DC prediction (1), direction prediction (2 to 34), and LM mode (35) may be decoded as IntraPredModeC.
  • the loop filter 305 applies filters such as a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) to the decoded image of the CU generated by the adding unit 312.
  • filters such as a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) to the decoded image of the CU generated by the adding unit 312.
  • the reference picture memory 306 stores the decoded image of the CU generated by the adding unit 312 at a predetermined position for each decoding target picture and CU.
  • the prediction parameter memory 307 stores the prediction parameter in a predetermined position for each decoding target picture and prediction unit (or sub-block, fixed-size block, pixel). Specifically, the prediction parameter memory 307 stores the inter prediction parameter decoded by the inter prediction parameter decoding unit 303, the intra prediction parameter decoded by the intra prediction parameter decoding unit 304, and the prediction mode predMode separated by the entropy decoding unit 301. .
  • the stored inter prediction parameters include, for example, a prediction list utilization flag predFlagLX (inter prediction identifier inter_pred_idc), a reference picture index refIdxLX, and a motion vector mvLX.
  • the prediction image generation unit 308 receives the prediction mode predMode input from the entropy decoding unit 301 and the prediction parameter from the prediction parameter decoding unit 302. Further, the predicted image generation unit 308 reads a reference picture from the reference picture memory 306. The prediction image generation unit 308 generates a prediction image of the PU using the input prediction parameter and the read reference picture in the prediction mode indicated by the prediction mode predMode.
  • the inter prediction image generation unit 309 uses the inter prediction parameter input from the inter prediction parameter decoding unit 303 and the read reference picture to perform prediction of the PU by inter prediction. Is generated.
  • the inter prediction image generation unit 309 performs a motion vector on the basis of the decoding target PU from the reference picture indicated by the reference picture index refIdxLX for a reference picture list (L0 list or L1 list) having a prediction list use flag predFlagLX of 1.
  • the reference picture block at the position indicated by mvLX is read from the reference picture memory 306.
  • the inter prediction image generation unit 309 performs prediction based on the read reference picture block to generate a prediction image of the PU.
  • the inter prediction image generation unit 309 outputs the generated prediction image of the PU to the addition unit 312.
  • the intra predicted image generation unit 310 When the prediction mode predMode indicates the intra prediction mode, the intra predicted image generation unit 310 performs intra prediction using the intra prediction parameter input from the intra prediction parameter decoding unit 304 and the read reference picture. Specifically, the intra predicted image generation unit 310 reads, from the reference picture memory 306, neighboring PUs that are pictures to be decoded and are in a predetermined range from the decoding target PUs among the PUs that have already been decoded.
  • the predetermined range is, for example, one of the left, upper left, upper, and upper right adjacent PUs when the decoding target PU sequentially moves in the so-called raster scan order, and differs depending on the intra prediction mode.
  • the raster scan order is an order in which each row is sequentially moved from the left end to the right end in each picture from the upper end to the lower end.
  • the intra predicted image generation unit 310 performs prediction in the prediction mode indicated by the intra prediction mode IntraPredMode for the read adjacent PU, and generates a predicted image of the PU.
  • the intra predicted image generation unit 310 outputs the generated predicted image of the PU to the adding unit 312.
  • the intra prediction image generation unit 310 performs planar prediction (0), DC prediction (1), direction according to the luminance prediction mode IntraPredModeY.
  • Prediction image of luminance PU is generated by any of prediction (2 to 34), and planar prediction (0), DC prediction (1), direction prediction (2 to 34), LM mode according to color difference prediction mode IntraPredModeC
  • a predicted image of the color difference PU is generated by any of (35).
  • the inverse quantization / inverse DCT unit 311 inversely quantizes the quantization coefficient input from the entropy decoding unit 301 to obtain a DCT coefficient.
  • the inverse quantization / inverse DCT unit 311 performs inverse DCT (Inverse Discrete Cosine Transform) on the obtained DCT coefficient to calculate a residual signal.
  • the inverse quantization / inverse DCT unit 311 outputs the calculated residual signal to the addition unit 312.
  • the addition unit 312 adds the prediction image of the PU input from the inter prediction image generation unit 309 or the intra prediction image generation unit 310 and the residual signal input from the inverse quantization / inverse DCT unit 311 for each pixel, Generate a decoded PU image.
  • the adder 312 outputs the generated decoded image of the PU to at least one of the deblocking filter 313, the SAO (sample adaptive offset) unit 314, or the ALF 315 for each picture.
  • the deblocking filter 313 performs the deblocking process on the CU boundary when the difference between the pixel values before deblocking of pixels adjacent to each other via the CU boundary is smaller than a predetermined threshold. Smooth the image near the CU boundary.
  • the image that has been deblocked by the deblocking filter 313 is output to the SAO unit 314 as a deblocked decoded image.
  • the pre-deblock pixel value is a pixel value in the image output from the adding unit 312.
  • the SAO unit 314 generates an offset-filtered decoded image by performing an offset filter process using an offset decoded from the encoded data Te on the decoded image before the offset filter for each predetermined unit.
  • the decoded image before offset filter may be an image output from the adding unit 312 or a deblocked decoded image output from the deblocking filter 313.
  • the ALF 315 generates an ALF-decoded image by applying an adaptive filter process using the ALF parameter ALFP decoded from the encoded data Te to the ALF pre-decoded image.
  • the ALF-decoded decoded image is output to the outside as a decoded image Td, and is stored in the reference picture memory 306 in association with the POC information decoded from the encoded data Te by the entropy decoding unit 301. Since a specific configuration of the ALF 315 will be described later, description thereof is omitted here.
  • the pre-ALF decoded image may be an image output from the adding unit 312, a deblocked decoded image, or an offset filtered decoded image.
  • FIG. 6 is a block diagram illustrating a configuration of the image encoding device 11 according to the present embodiment.
  • the image encoding device 11 includes a prediction image generation unit 101, a subtraction unit 102, a DCT / quantization unit 103, an entropy encoding unit 104, an inverse quantization / inverse DCT unit 105, an addition unit 106, a loop filter 107, and a prediction parameter memory.
  • the prediction parameter encoding unit 111 includes an inter prediction parameter encoding unit 112 and an intra prediction parameter encoding unit 113.
  • the predicted image generation unit 101 generates, for each picture of the image T, a predicted image P of the prediction unit PU for each encoding unit CU that is an area obtained by dividing the picture.
  • the predicted image generation unit 101 reads a decoded block from the reference picture memory 109 based on the prediction parameter input from the prediction parameter encoding unit 111.
  • the prediction parameter input from the prediction parameter encoding unit 111 is, for example, a motion vector in the case of inter prediction.
  • the predicted image generation unit 101 reads a block at a position on the reference image indicated by the motion vector with the target PU as a starting point.
  • the prediction parameter is, for example, an intra prediction mode.
  • a pixel value of an adjacent PU used in the intra prediction mode is read from the reference picture memory 109, and a predicted image P of the PU is generated.
  • the predicted image generation unit 101 generates a predicted image P of the PU using one prediction method among a plurality of prediction methods for the read reference picture block.
  • the predicted image generation unit 101 outputs the generated predicted image P of the PU to the subtraction unit 102.
  • predicted image generation unit 101 performs the same operation as the predicted image generation unit 308 already described.
  • the prediction image generation unit 101 generates a prediction image P of the PU based on the pixel value of the reference block read from the reference picture memory, using the parameter input from the prediction parameter encoding unit.
  • the predicted image generated by the predicted image generation unit 101 is output to the subtraction unit 102 and the addition unit 106.
  • the subtraction unit 102 subtracts the signal value of the predicted image P of the PU input from the predicted image generation unit 101 from the pixel value of the corresponding PU of the image T, and generates a residual signal.
  • the subtraction unit 102 outputs the generated residual signal to the DCT / quantization unit 103.
  • the DCT / quantization unit 103 performs DCT on the residual signal input from the subtraction unit 102 and calculates a DCT coefficient.
  • the DCT / quantization unit 103 quantizes the calculated DCT coefficient to obtain a quantization coefficient.
  • the DCT / quantization unit 103 outputs the obtained quantization coefficient to the entropy coding unit 104 and the inverse quantization / inverse DCT unit 105.
  • the entropy encoding unit 104 receives the quantization coefficient from the DCT / quantization unit 103 and receives the encoding parameter from the prediction parameter encoding unit 111.
  • the input encoding parameters include codes such as a reference picture index refIdxLX, a prediction vector index mvp_LX_idx, a difference vector mvdLX, a prediction mode predMode, and a merge index merge_idx.
  • the entropy encoding unit 104 generates an encoded stream Te by entropy encoding the input quantization coefficient and encoding parameter, and outputs the generated encoded stream Te to the outside.
  • the inverse quantization / inverse DCT unit 105 inversely quantizes the quantization coefficient input from the DCT / quantization unit 103 to obtain a DCT coefficient.
  • the inverse quantization / inverse DCT unit 105 performs inverse DCT on the obtained DCT coefficient to calculate a residual signal.
  • the inverse quantization / inverse DCT unit 105 outputs the calculated residual signal to the addition unit 106.
  • the addition unit 106 adds the signal value of the prediction image P of the PU input from the prediction image generation unit 101 and the signal value of the residual signal input from the inverse quantization / inverse DCT unit 105 for each pixel, and performs decoding. Generate an image.
  • the adding unit 106 stores the generated decoded image in the reference picture memory 109.
  • the loop filter 107 applies a deblocking filter 114, a SAO_E (sample adaptive offset encoder) unit 115, and an adaptive loop filter (ALF) 116 to the decoded image generated by the adding unit 106.
  • SAO_E sample adaptive offset encoder
  • ALF adaptive loop filter
  • the prediction parameter memory 108 stores the prediction parameter generated by the encoding parameter determination unit 110 at a predetermined position for each picture to be encoded and each CU.
  • the reference picture memory 109 stores the decoded image generated by the loop filter 107 in a predetermined position for each picture to be encoded and each CU.
  • the encoding parameter determination unit 110 selects one set from among a plurality of sets of encoding parameters.
  • the encoding parameter is a parameter to be encoded that is generated in association with the above-described prediction parameter or the prediction parameter.
  • the predicted image generation unit 101 generates a predicted image P of the PU using each of these encoding parameter sets.
  • the encoding parameter determination unit 110 calculates a cost value indicating the amount of information and the encoding error for each of a plurality of sets.
  • the cost value is, for example, the sum of a code amount and a square error multiplied by a coefficient ⁇ .
  • the code amount is the information amount of the encoded stream Te obtained by entropy encoding the quantization error and the encoding parameter.
  • the square error is the sum between pixels regarding the square value of the residual value of the residual signal calculated by the subtracting unit 102.
  • the coefficient ⁇ is a real number larger than a preset zero.
  • the encoding parameter determination unit 110 selects a set of encoding parameters that minimizes the calculated cost value.
  • the entropy encoding unit 104 outputs the selected set of encoding parameters to the outside as the encoded stream Te, and does not output the set of unselected encoding parameters.
  • the encoding parameter determination unit 110 stores the determined encoding parameter in the prediction parameter memory 108.
  • the prediction parameter encoding unit 111 derives a format for encoding from the parameters input from the encoding parameter determination unit 110 and outputs the format to the entropy encoding unit 104. Deriving the format for encoding is, for example, deriving a difference vector from a motion vector and a prediction vector. Also, the prediction parameter encoding unit 111 derives parameters necessary for generating a prediction image from the parameters input from the encoding parameter determination unit 110 and outputs the parameters to the prediction image generation unit 101.
  • the parameter necessary for generating the predicted image is, for example, a motion vector in units of sub-blocks.
  • the inter prediction parameter encoding unit 112 derives an inter prediction parameter such as a difference vector based on the prediction parameter input from the encoding parameter determination unit 110.
  • the inter prediction parameter encoding unit 112 derives parameters necessary for generating a prediction image to be output to the prediction image generating unit 101, and an inter prediction parameter decoding unit 303 (see FIG. 6 and the like) derives inter prediction parameters. Some of the configurations are the same as those to be performed. The configuration of the inter prediction parameter encoding unit 112 will be described later.
  • the intra prediction parameter encoding unit 113 derives a format (eg, mpm_idx, rem_intra_luma_pred_mode) for encoding from the intra prediction mode IntraPredMode input from the encoding parameter determination unit 110.
  • SAO sample adaptive offset
  • SAO is a filter applied after a deblocking filter, and has an effect of removing ringing distortion and quantization distortion.
  • SAO is CTU-unit processing, and is a filter that classifies pixel values into several categories and adds or subtracts offsets in pixel units for each category.
  • SAO has two types of offsets, edge offset (EO) and band offset (BO), and the method of classifying pixel values in CTU is determined by these offset types.
  • EO classifies pixel values according to the magnitude relationship between the target pixel and adjacent pixels (reference pixels).
  • BO classifies pixel values according to the size of the target pixel.
  • the offset determined for each category is added to the decoded pixel value (pixel value of the input image to the SAO unit 314).
  • the SAO unit 314 receives a decoded image obtained by adding a prediction image and a prediction error, or a decoded image obtained by further applying a deblocking filter.
  • all input images to the SAO unit 314 are “decoded images”.
  • the pixel value of the input image is called “decoded pixel value”.
  • FIG. 10 is a block diagram of the SAO unit 314.
  • the SAO unit 314 includes a category setting unit 1001, an offset information storage unit 1002, and an offset addition unit 1003.
  • the category setting unit 1001 receives the offset type (type), class (class), or band position (band_position) decoded by the entropy decoding unit 301 and the decoded image rec.
  • the category setting unit 1001 sets a category using these. SAO is not performed when the offset type is 0 (offset addition is not performed). If the offset type is 1, perform BO, and if it is 2, perform EO.
  • the category setting unit 1001 checks the offset type type in S1101. If EO, the process proceeds to S1102. If BO, the process proceeds to S1105. S1102 to S1104 are EO processes, and S1105 to S1106 are BO processes. If the offset type type is EO, the category setting unit 1001 refers to the class in step S1102, and sets adjacent pixels of the target pixel X as reference pixels a and b.
  • Fig. 7 shows how to set reference pixels based on EO class.
  • the category setting unit 1001 determines the difference between the pixel value of the target pixel X and the two reference pixels a and b, sign (rec [X] -rec [a]), sign (rec [X] -rec [b] ]) To derive edgeIdx.
  • rec [x] represents the decoded pixel value of the pixel x.
  • the category setting unit 1001 calculates the category cat from the edgeIdx in S1104.
  • the black circle is the target pixel X
  • the white circle on the left side of X is the reference pixel a
  • the white circle on the right side of X is the reference pixel b
  • the vertical direction represents the magnitude relationship of the pixel values.
  • the category setting unit 1001 divides the pixel values from 0 to 2 N ⁇ 1 into bands as shown in FIG. 16 in S1105.
  • N 8
  • the pixel value ranges from 0 to 255
  • each band consists of 8 consecutive pixel values.
  • step S1106 the category setting unit 1001 sets four consecutive bands from the band indicated by the band position (band_position) decoded by the entropy decoding unit 301 to 0 to 3 of the category cat. If there is a category including the pixel value rec [X] of the target pixel, the category of the target pixel X is set.
  • the offset information storage unit 1002 stores the offset (offset) decoded by the entropy decoding unit 301.
  • the offset addition unit 1003 reads the offset offset [cat] from the offset information storage unit 1002 using the category cat derived by the category setting unit 1001.
  • FIG. 17 shows a block diagram of the SAO_E unit 115 in FIG. 6 in order to explain the SAO operation in the image coding apparatus.
  • the SAO_E unit 115 includes an SAO information setting unit 1701 and an SAO unit 314.
  • the SAO unit 314 is the same as that shown in FIG.
  • the SAO information setting unit 1701 includes an offset calculation unit 1702 and an offset information selection unit 1703.
  • the offset information calculation unit 1702 will be described.
  • the offset information calculation unit 1702 calculates the offset of each class (0 to 3) of EO and BO.
  • the offset type is EO
  • the category of each pixel is set for each class, and the offset for each set category is calculated. A specific operation will be described with reference to FIG.
  • the offset calculation unit 1702 determines the class, count [class] [cat], SAD Initialize [class] [cat].
  • count [class] [cat] is a variable that counts the number of pixels for each (class, cat) combination in the CTU
  • SAD [class] [cat] is the decoding for each (class, cat) combination in the CTU This is a variable for storing the absolute difference sum between the pixel value and the original pixel.
  • the offset calculation unit 1702 calculates an EO offset in S1802 and S1803.
  • the reference pixels a and b indicated by the class are set for the target pixel X, and the category cat is derived.
  • the absolute difference between the decoded pixel value and the original pixel is added to SAD [class] [cat].
  • the offset calculation unit 1702 calculates the offset offset [class] [cat] for the categories 1 to 4 in S1803 using the following formula, and increments the class by one.
  • the offset calculation unit 1702 calculates the offset of BO in S1805 and S1806.
  • S1805 the band i to which the decoded pixel value rec [X] of the target pixel belongs is obtained, and the difference between rec [X] and org [X] is added to the difference sum SAD [class] [i] of the band i.
  • the count of band i is incremented by one.
  • the offset information selection unit 1703 uses the offset calculated by the offset calculation unit 1702 to select an offset type (EO / BO), a class for EO, and a band position for BO.
  • FIG. 19 is a flowchart showing the operation of the offset information selection unit 1703.
  • the offset information selection unit 1703 initializes the class class (0 to 3) and the absolute difference sum SAD [class] in S1901.
  • the absolute difference sum SAD [class] is a variable for storing a sum of absolute differences between a pixel value to which SAO is applied (an offset is added) and an original pixel value.
  • the absolute difference sum SAD [class] sets reference pixels a and b indicated by the class, derives a category for each pixel of the CTU by the above-described method, and uses the offset assigned to each category.
  • the absolute difference sum SAD is calculated.
  • the offset information selection unit 1703 checks in S1903 whether the class is equal to 4. If the class is not equal to 4, the process of S1902 is performed until it becomes 4. If the class is equal to 4, the processing of all classes of EO has been completed, and the process proceeds to S1904.
  • the offset information selection unit 1703 calculates the absolute sum of the difference between the pixel value to which SAO is applied (the offset is added) and the original pixel value for each band of the CTU. Specifically, a pixel value obtained by applying SAO of pixels belonging to four consecutive bands using the band i of the target pixel X and the offset offset [class] [i] of each band obtained by the offset calculation unit 1702 Calculate absolute sum of rec [X] + oft and original pixel value org [X].
  • step S1908 the offset information selection unit 1703 compares the magnitude relationship between SAO EO and SAO BO . If SAO BO is large, proceed to S1909 and set the offset type (type) of the current CTU to EO. Otherwise, the process proceeds to S1910, and the offset type (type) of the current CTU is set to BO.
  • the offset information (offset, offset type, class, band position) calculated by the SAO information setting unit 1701 is input to the SAO unit 314.
  • the operation of the SAO unit 314 is the same as described above, and a description thereof is omitted.
  • FIG. 20 shows a block diagram of PO and SAO.
  • the PO unit 2001 receives the PO offset information (Cmax, NF, offset, etc.) decoded by the entropy decoding unit 301 and the decoded image, performs PO processing, and outputs the resulting image to the SAO unit 314.
  • the PO unit 2001 includes a PO category / PO class setting unit 2002, an offset information storage unit 2003, and a PO offset addition unit 2004.
  • the PO category / PO class setting unit 2002 sets the PO class using the PO category calculated for each pixel from the pixel value of the decoded image.
  • the offset information storage unit 2003 stores the PO offset information decoded by the entropy decoding unit 301.
  • the PO offset addition unit 2004 adds the offset specified by the PO class and PO category to the decoded image, and outputs the result to the SAO unit 314.
  • step S2101 the PO category / PO class setting unit 2002 sets the reference pixel of the target pixel.
  • FIG. 13 shows the positional relationship between the target pixel X and the reference pixels c0 to c3.
  • PO category / PO class setting unit 2002 sets the category pcat in S2103.
  • step S2104 the PO category / PO class setting unit 2002 calculates the PO class cid.
  • PO category / PO class setting unit 2002 determines PO class c_id as follows in S2105.
  • Cmax is the maximum value of the PO class decoded by the entropy decoding unit 301, and prevents the number of PO classes from becoming too large.
  • the PO offset addition unit 2004 determines an offset to be applied using the PO category and PO class of the target pixel calculated by the PO category / PO class setting unit 2002, and adds the offset to the target pixel value rec [X]. Then, the filtered target pixel value recpo [X] is calculated.
  • the PO_E unit 2201 includes a PO offset calculation unit 2202 that calculates an offset for each PO category and PO class, and a PO unit 2001. Since the PO unit 2001 is the same as described above, description thereof is omitted.
  • the offset information (Cmax, NF, offset) calculated by the PO_E unit 2201 is output to the entropy encoding unit 104, and the filtered image is output to the SAO_E unit 115.
  • the PO offset calculation unit 2202 calculates the variable count [c_id] [pcat] for counting the number of pixels for each combination of each PO class c_id and PO category pcat, and the absolute difference between the decoded pixel value and the original pixel value of the target pixel Initialize SAD [c_id] [pcat] that stores the sum.
  • step S2302 the PO offset calculation unit 2202 sets reference pixels c0 to c3 of the target pixel, and derives a PO category by the same method as in FIG. The above process is performed on all pixels of the CTU, and the distribution of absolute differences between the decoded pixel value rec [X] of the target pixel X and the original pixel value org [X] is obtained for each PO category.
  • the PO offset calculation unit 2202 extracts the PO category and PO class of the target pixel X by the method described with reference to the flowchart of FIG. 21, and adds the absolute difference sum SAD [c_id] [pcat] of each PO category and PO class. The absolute difference between the decoded pixel value of the target pixel X and the original pixel value is added.
  • the PO offset calculation unit 2202 calculates an offset for each PO category and PO class in S2305.
  • FIG. 25 is obtained by replacing S2101 in FIG. 21 with S25010 to S25012, and other steps are not changed.
  • the selectable reference pixels are increased to two types in the horizontal / vertical direction and the diagonal direction, so that each reference pixel has S2301.
  • the process of S2305 is executed.
  • the reference pixel position with the smaller absolute difference sum SAD is a flag indicating whether (a) or (b) in FIG. 14, and the offset, Cmax, and NF calculated using this reference pixel are output to the entropy encoding unit 104. To do.
  • the PO category / PO class setting unit 2002 refers to the PO category pcat set in S2103, and determines whether pcat is 2.
  • the process proceeds to S26031 and the mask of the target pixel X is set to 1. If pcat is not 2 (category in which offset is added in the PO section), the process proceeds to S26032 and the mask of the target pixel X is set to 0.
  • the mask is a variable assigned to every pixel in the CTU.
  • the category setting unit 1001 of the SAO unit 314 checks the mask of the target pixel X set in the PO unit 2001 in S27040, and if it is not 1 (adds an offset in the PO unit), the process proceeds to S27041 and is a one-dimensional SAO. Set the category cat of EO to 0 of the category to which no offset is added (do not perform EO).
  • FIG. 28 is a block diagram on the decoding device side
  • FIG. 29 is a block diagram on the coding device side. Both are the same as those in the second embodiment, but the execution order of PO and SAO is different.
  • the offset type of SAO is EO
  • a pixel to which the offset is added (a pixel in which the pixel category cat is other than 0, that is, a pixel in the category in which the pixel category cat adds the offset) is added to the subsequent PO.
  • a pixel candidate to which an offset is added is used. That is, the correction considering the change of the pixel value in the two-dimensional direction is further performed on the pixel considering the change of the pixel value in the one-dimensional direction by EO.
  • the category setting unit 1001 of the SAO unit 314 checks whether the category cat set in S1104 is 0 in S30000. If the category cat is 0 (offset addition is not performed with EO), the process proceeds to S30001, and the mask of the target pixel is set to 0. When the category cat is not 0 (offset addition is performed with EO), the process proceeds to S30002, and the mask of the target pixel is set to 1.
  • the category setting unit 1001 sets the mask of the target pixel to 0 in S30060.
  • the mask is a variable assigned to every pixel in the CTU.
  • step S31030 the PO category / PO class setting unit 2002 checks a mask indicating whether an offset has been added by EO. When the mask is 0 (EO does not add an offset), the process proceeds to S31031, and PO category pcat is set to 0 of a category to which no offset is added. Thereby, the offset of PO is not added to the pixel for which the offset is not added by EO.
  • Embodiment 2 In Embodiment 2 of the present application, PO pixel classification (PO category classification) is realized by a combination of two one-dimensional EO. By realizing the combination of two EO, the redundant processing that occurs when both PO and EO are processed is deleted, and the change of the pixel value that could not be expressed only by the change of the pixel value in the one-dimensional direction It is possible to cope with this pattern and to realize more efficient filter processing.
  • EO categories in two directions among the directions corresponding to the four classes shown in FIG. 7 horizontal direction, vertical direction, upper left to lower right direction, and upper right to lower left direction
  • EO category 1 and EO category Derived as category 2
  • PO category classification is derived based on these two EO categories.
  • FIG. 24 (a) shows the value of M when combining two categories of EO classes (EO category 1 and EO category 2).
  • the temporary variable M for deriving the PO category can be derived from the EO category 1 and the EO category 2 by using FIG.
  • M max ( ⁇ lgr (rec (X) -rec (ci)), ⁇ sml (rec (X) -rec (ci)))
  • M of the pattern that does not occur is set to 0.
  • EO category 1 in FIG. 24A is a category obtained from reference pixels of class 0 (reference pixels are horizontal) in FIG. 7, and EO category 2 is class 2 in FIG. 7 (reference pixels are from upper left to lower right). ) Category obtained from the reference pixel. For example, when EO category 1 is 2 and EO category 2 is 1, M is derived as 3.
  • FIG. 24 (b) is a table showing the relationship between the PO category M (derived from the formula of Embodiment 1) and the combination of two EO categories (EO category 1, EO category 2).
  • the block diagram of the second embodiment is the same as the SAO unit 314 of FIG. 10 and the SAO_E unit 115 of FIG. 17 of the first embodiment, but the operations of the category setting unit 1001, the offset adding unit 1003, and the offset information selecting unit 1703 are the same. Different. Operations of the category setting unit 1001 and the offset information selection unit 1703 will be described with reference to the flowcharts of FIGS.
  • the category setting unit 1001 in FIG. 34 repeats the processing of S1102 to S1104 twice in order to derive two categories from reference pixels corresponding to two directions (classes). The other steps are the same as those in FIG. 11 for deriving one category from reference pixels in one direction (class).
  • the category setting unit 1001 counts the number of processes S1102 to S1104 in S34040, ends the process if it is 2, and returns to S1102 if it is 1 and continues the process. Note that the two category derivations do not need to be performed in a loop process, and the category derivation process may be executed twice.
  • the two classes (class1, class2) calculated by the category setting unit 1001 and the two offsets corresponding to the categories (cat1, cat2) are read from the offset information storage unit, and the pixel value Rec [ Add to [X].
  • the two directions (classes) used in the category setting unit 1001 may be encoded / decoded in units of CTUs.
  • two directions (classes) are selected from the four directions (classes)
  • a 2-bit syntax is required. It should be noted that the selection may be restricted only when two directions (classes) are orthogonal to each other. In this case, possible reference pixel positions are limited to two patterns in the horizontal and vertical directions and two diagonal directions, but the number of bits representing a class can be reduced by one bit.
  • Embodiment 2 of the present application realizes processing equivalent to PO category classification by combining two one-dimensional EO category classifications.
  • the redundant processing that occurs when processing both PO category classification and EO category classification was avoided, and it could not be expressed only by the change of pixel value in one-dimensional direction. It is possible to deal with a change pattern of pixel values, and more efficient filter processing can be realized.
  • the combination of the one-dimensional EO of the second embodiment is expressed by extending the PO.
  • the PO By expanding and expressing PO, redundant processing that occurs when both PO and EO are processed can be deleted, and changes in pixel values in a one-dimensional direction that could not be expressed by conventional PO can be handled. And more efficient filter processing can be realized.
  • FIG. 32 shows the correspondence between the PO category pcat and the EO category.
  • M of PO when M of PO is 0 to 2, processing is performed according to the category of SAO EO.
  • PO M 3
  • PO is performed, but an offset is calculated on the encoding device side in accordance with the EO category, and is used in the addition processing by the PO offset addition unit 2004.
  • the SAO processed after the PO may perform only the BO function as shown in FIG.
  • the PO unit 2001 (or PO_E unit 2201) performs the above-described PO category classification and offset addition processing
  • the SAO unit 314 (or SAO_E unit 115) is BO except for EO.
  • the offset type of SAO is only BO, for example, the category setting unit 1001 in FIG. 11 performs only the processing of S1105 and S1106.
  • the offset calculation unit 1702 in FIG. 18 performs only the processing of S1801, S1805, and S1806.
  • the offset information selection unit 1703 in FIG. 19 performs only the processes of S1901 and S1905 to S1907. Accordingly, the offset information is an offset and a band position (band_position). Since the offset type is only BO, the offset type (type) does not need to be encoded.
  • the third embodiment of the present application realizes the category classification process corresponding to the combination of the one-dimensional EO of the second embodiment by extending the PO.
  • the PO By extending the PO, it eliminates redundant category classification processing that occurs when processing PO and EO, and copes with changes in pixel values in the one-dimensional direction that could not be expressed with conventional PO And more efficient filter processing can be realized.
  • Embodiment 4 In Embodiment 4 of the present application, since PO and SAO EO have different image quality improvement effects such as ringing removal effect, and SAO BO has a pseudo contour prevention effect, the SAO when using PO (adding offset with PO) is Select BO.
  • the block diagram of the fourth embodiment is the same as the PO unit 2001 of FIG. 20 of the first embodiment (however, the PO category / PO class setting unit 2002 operates in FIG. 26) and the PO_E unit 2201 of FIG.
  • the encoding device side encodes the offset type (BO) when there is even one pixel in the CTU in the PO with a mask of 0, S3802 and S3804 in FIG. 38 are not required on the decoding device side.
  • the operation is exactly the same as the conventional processing of PO and SAO in order.
  • the fifth embodiment of the present application relates to the addition of diagonal pixels (FIG. 14B) to the reference pixel position of the PO described in the first embodiment. Since both PO and SAO EO require calculation of an appropriate reference pixel position, redundant calculation processing can be reduced by sharing reference pixel position information between PO and EO.
  • the reference pixel position of EO is determined using the reference pixel position calculated by PO. If the flag indicating the reference direction used in PO is POflag, and the 1-bit class information used in EO is EOflag, the class class of EO can be calculated as follows.
  • the reference pixel position of PO is determined as shown in FIG. 15A using the reference pixel position calculated by EO of SAO.
  • EO class 0 or 1
  • POflag 0 (reference pixel position is horizontal / vertical direction)
  • POflag 1 (reference pixel position is diagonal).
  • information indicating the reference pixel position of PO can be deleted.
  • the reference pixel position that has a correction effect in the first process is also used in the subsequent process, so that there is an effect that correction can be performed with higher accuracy.
  • the reference pixel position of EO is determined using the reference pixel position calculated by PO. If the flag indicating the reference direction used in PO is POflag, and the 1-bit class information used in EO is EOflag, the class class of EO can be calculated as follows.
  • the reference pixel position of PO is determined as shown in FIG. 15B using the reference pixel position calculated by EO of SAO.
  • EO class 0 or 1
  • POflag 1 (reference pixel position is diagonal)
  • POflag 0 (reference pixel position is horizontal / vertical direction).
  • information indicating the reference pixel position of PO can be deleted.
  • the subsequent processing can be performed using the change in the pixel value in the direction that could not be corrected in the first processing, which has the effect of improving the coding efficiency.
  • Embodiment 6 of the present invention describes the estimation of the maximum number Cmax of PO classes notified by PO and the normalization coefficient NF used for class calculation. Since the number of offsets to be encoded is limited by Cmax, and the granularity of the change amount of the corresponding pixel value can be changed by one offset by NF, optimal offset adjustment can be performed by notifying Cmax and NF for each CTU. However, when Cmax and NF are encoded for each CTU, there is a problem that the amount of codes increases.
  • Cmax and NF are encoded using a picture parameter set, slice header, etc., and at the CTU level, the Cmax and NF are changed by using parameters closely related to the amount of change in pixel value, while reducing the amount of code and reducing the amount of offset. Can be adjusted.
  • the operation of the PO category / PO class setting unit 2202 will be described with reference to the flowchart of FIG. 39, S39030 is added after S2103 in FIG. 21, and the other steps are the same.
  • the PO category / PO class setting unit 2002 estimates Cmax and NF in units of CTUs in S39030. Specifically, the average value DIFF_avg of the absolute difference between the decoded pixel values of the target pixel X and the reference pixels c0 to c3 is calculated for each PO category, and Cmax is expressed by the following equation using ( ⁇ , ⁇ ) shown in FIG. calculate.
  • Cmax (Cmax_init * ⁇ ) >> ⁇
  • Cmax_init is the value of Cmax notified by the picture parameter set or slice header.
  • NF is calculated by the following equation using the maximum absolute value DIFF_max of the decoded pixel values of the target pixel X and the reference pixels c0 to c3.
  • the quantization width QP is used as a parameter deeply related to the change amount of the pixel value.
  • the size of the CU may be used. In the region where the CU size is large, the texture is flat and a pseudo contour is likely to occur. Since slight changes in pixel values are conspicuous, the same control as when QP is large is possible.
  • Cmax and NF are changed using a parameter deeply related to the amount of change in pixel value, or the previous difference between Cmax and NF is encoded.
  • fine offset adjustment can be performed while reducing the code amount.
  • the PO_E unit 2201 outputs Cmax_init and NF_init, which are initial values of Cmax and NF, to the entropy encoding unit 104, and the entropy encoding unit 104 encodes the picture parameter set and slice header.
  • the PO unit 2001 passes Cmax_init and NF_init decoded by the entropy decoding unit 301 to the PO category / PO class setting unit 2002.
  • Embodiment 7 of this application demonstrates the entropy encoding method of an offset.
  • each offset is encoded and decoded by PO and SAO.
  • the difference between the original pixel value and the pixel value after the filter process is smaller than the difference between the pixel value before the filter process due to the offset addition in the first process (process 1), and the second process (process 2).
  • the offset may be equal to or less than the first offset. Therefore, the code length of the offset of process 2 can be reduced using the offset of process 1.
  • the entropy decoding unit 301 in FIG. 5 or the entropy encoding unit 104 in FIG. 6 includes a binarization unit (not shown) that binarizes the offset value.
  • a TR Trusted Rice
  • Omax1 7
  • a value of 0 to 7 can be used as an offset.
  • the maximum offset value of process 1 is 5
  • the TR code table at this time is shown in FIG. . Therefore, when the offset becomes equal to Omax2 in the process 2, the code amount can be reduced by 1 bit compared with the case of encoding using the TR code table used in the process 1.
  • the case where the process 1 is PO and the process 2 is SAO, and vice versa can be applied.
  • the offset limit of the process 2 is set to be equal to or less than the maximum offset value of the process 1.
  • the offset limit of the process 2 is set to 1/2 or less of the maximum offset value of the process 1.
  • the seventh embodiment of the present application can reduce the offset code length by utilizing the fact that the offset of the second process is smaller than the offset of the first process in the entropy coding of the offset. it can.
  • a part of the image encoding device 11 and the image decoding device 31 in the above-described embodiment for example, the entropy decoding unit 301, the prediction parameter decoding unit 302, the loop filter 305, the predicted image generation unit 308, the inverse quantization / inverse DCT.
  • the prediction parameter encoding unit 111 and blocks included in each unit may be realized by a computer.
  • the program for realizing the control function may be recorded on a computer-readable recording medium, and the program recorded on the recording medium may be read into a computer system and executed.
  • the “computer system” is a computer system built in either the image encoding device 11 or the image decoding device 31 and includes hardware such as an OS and peripheral devices.
  • the “computer-readable recording medium” refers to a storage device such as a portable medium such as a flexible disk, a magneto-optical disk, a ROM, a CD-ROM, or a hard disk built in a computer system.
  • the “computer-readable recording medium” is a medium that dynamically holds a program for a short time, such as a communication line when transmitting a program via a network such as the Internet or a communication line such as a telephone line,
  • a volatile memory inside a computer system serving as a server or a client may be included and a program that holds a program for a certain period of time.
  • the program may be a program for realizing a part of the above-described functions, or may be a program that can realize the above-described functions in combination with a program already recorded in a computer system.
  • part or all of the image encoding device 11 and the image decoding device 31 in the above-described embodiment may be realized as an integrated circuit such as an LSI (Large Scale Integration).
  • LSI Large Scale Integration
  • Each functional block of the image encoding device 11 and the image decoding device 31 may be individually made into a processor, or a part or all of them may be integrated into a processor.
  • the method of circuit integration is not limited to LSI, and may be realized by a dedicated circuit or a general-purpose processor. Further, in the case where an integrated circuit technology that replaces LSI appears due to progress in semiconductor technology, an integrated circuit based on the technology may be used.
  • the image encoding device 11 and the image decoding device 31 described above can be used by being mounted on various devices that perform transmission, reception, recording, and reproduction of moving images.
  • the moving image may be a natural moving image captured by a camera or the like, or an artificial moving image (including CG and GUI) generated by a computer or the like.
  • the image encoding device 11 and the image decoding device 31 described above can be used for transmission and reception of moving images.
  • FIG. 8 is a block diagram showing a configuration of a transmission device PROD_A in which the image encoding device 11 is mounted.
  • the transmission apparatus PROD_A modulates a carrier wave with an encoding unit PROD_A1 that obtains encoded data by encoding a moving image, and with the encoded data obtained by the encoding unit PROD_A1.
  • a modulation unit PROD_A2 that obtains a modulation signal and a transmission unit PROD_A3 that transmits the modulation signal obtained by the modulation unit PROD_A2 are provided.
  • the above-described image encoding device 11 is used as the encoding unit PROD_A1.
  • Transmission device PROD_A as a source of moving images to be input to the encoding unit PROD_A1, a camera PROD_A4 that captures moving images, a recording medium PROD_A5 that records moving images, an input terminal PROD_A6 for inputting moving images from the outside, and An image processing unit A7 that generates or processes an image may be further provided.
  • FIG. 8A illustrates a configuration in which the transmission apparatus PROD_A includes all of these, but some of them may be omitted.
  • the recording medium PROD_A5 may be a recording of a non-encoded moving image, or a recording of a moving image encoded by a recording encoding scheme different from the transmission encoding scheme. It may be a thing. In the latter case, a decoding unit (not shown) for decoding the encoded data read from the recording medium PROD_A5 in accordance with the recording encoding method may be interposed between the recording medium PROD_A5 and the encoding unit PROD_A1.
  • FIG. 8 is a block diagram showing a configuration of a receiving device PROD_B in which the image decoding device 31 is mounted.
  • the receiving device PROD_B includes a receiving unit PROD_B1 that receives the modulated signal, a demodulating unit PROD_B2 that obtains encoded data by demodulating the modulated signal received by the receiving unit PROD_B1, and a demodulator.
  • a decoding unit PROD_B3 that obtains a moving image by decoding the encoded data obtained by the unit PROD_B2.
  • the above-described image decoding device 31 is used as the decoding unit PROD_B3.
  • the receiving device PROD_B is a display destination PROD_B4 that displays a moving image, a recording medium PROD_B5 that records a moving image, and an output terminal that outputs the moving image to the outside as a destination of the moving image output by the decoding unit PROD_B3 PROD_B6 may be further provided.
  • FIG. 8B illustrates a configuration in which all of these are provided in the receiving device PROD_B, but some of them may be omitted.
  • the recording medium PROD_B5 may be used for recording a non-encoded moving image, or is encoded using a recording encoding method different from the transmission encoding method. May be. In the latter case, an encoding unit (not shown) for encoding the moving image acquired from the decoding unit PROD_B3 according to the recording encoding method may be interposed between the decoding unit PROD_B3 and the recording medium PROD_B5.
  • the transmission medium for transmitting the modulation signal may be wireless or wired.
  • the transmission mode for transmitting the modulated signal may be broadcasting (here, a transmission mode in which the transmission destination is not specified in advance) or communication (here, transmission in which the transmission destination is specified in advance). Refers to the embodiment). That is, the transmission of the modulation signal may be realized by any of wireless broadcasting, wired broadcasting, wireless communication, and wired communication.
  • a terrestrial digital broadcast broadcasting station (broadcasting equipment, etc.) / Receiving station (such as a television receiver) is an example of a transmitting device PROD_A / receiving device PROD_B that transmits and receives a modulated signal by wireless broadcasting.
  • a broadcasting station (such as broadcasting equipment) / receiving station (such as a television receiver) of cable television broadcasting is an example of a transmitting device PROD_A / receiving device PROD_B that transmits and receives a modulated signal by cable broadcasting.
  • a server workstation, etc.
  • Client television receiver, personal computer, smartphone, etc.
  • VOD Video On Demand
  • video sharing service using the Internet is a transmission device that transmits and receives modulated signals via communication.
  • PROD_A / receiving device PROD_B normally, either a wireless or wired transmission medium is used in a LAN, and a wired transmission medium is used in a WAN.
  • the personal computer includes a desktop PC, a laptop PC, and a tablet PC.
  • the smartphone also includes a multi-function mobile phone terminal.
  • the video sharing service client has a function of encoding a moving image captured by the camera and uploading it to the server. That is, the client of the video sharing service functions as both the transmission device PROD_A and the reception device PROD_B.
  • FIG. 9A is a block diagram showing a configuration of a recording apparatus PROD_C in which the above-described image encoding device 11 is mounted.
  • the recording apparatus PROD_C includes an encoding unit PROD_C1 that obtains encoded data by encoding a moving image, and the encoded data obtained by the encoding unit PROD_C1 on a recording medium PROD_M.
  • the above-described image encoding device 11 is used as the encoding unit PROD_C1.
  • the recording medium PROD_M may be of a type built into the recording device PROD_C, such as (1) HDD (Hard Disk Drive) or SSD (Solid State Drive), or (2) SD memory. It may be of the type connected to the recording device PROD_C, such as a card or USB (Universal Serial Bus) flash memory, or (3) DVD (Digital Versatile Disc) or BD (Blu-ray (registered trademark)) ) Disc) or the like, it may be loaded into a drive device (not shown) built in the recording device PROD_C.
  • HDD Hard Disk Drive
  • SSD Solid State Drive
  • SD memory such as a card or USB (Universal Serial Bus) flash memory, or (3) DVD (Digital Versatile Disc) or BD (Blu-ray (registered trademark)) ) Disc) or the like, it may be loaded into a drive device (not shown) built in the recording device PROD_C.
  • the recording device PROD_C is a camera PROD_C3 that captures moving images as a source of moving images to be input to the encoding unit PROD_C1, an input terminal PROD_C4 for inputting moving images from the outside, and a reception for receiving moving images
  • a unit PROD_C5 and an image processing unit PROD_C6 for generating or processing an image may be further provided.
  • FIG. 9A illustrates a configuration in which the recording apparatus PROD_C includes all of these, but some of them may be omitted.
  • the receiving unit PROD_C5 may receive a non-encoded moving image, or may receive encoded data encoded by a transmission encoding scheme different from the recording encoding scheme. You may do. In the latter case, a transmission decoding unit (not shown) that decodes encoded data encoded by the transmission encoding method may be interposed between the reception unit PROD_C5 and the encoding unit PROD_C1.
  • Examples of such a recording device PROD_C include a DVD recorder, a BD recorder, an HDD (Hard Disk Drive) recorder, and the like (in this case, the input terminal PROD_C4 or the receiver PROD_C5 is a main source of moving images). .
  • a camcorder in this case, the camera PROD_C3 is a main source of moving images
  • a personal computer in this case, the receiving unit PROD_C5 or the image processing unit C6 is a main source of moving images
  • a smartphone this In this case, the camera PROD_C3 or the receiving unit PROD_C5 is a main source of moving images).
  • FIG. 9 is a block diagram showing a configuration of a playback device PROD_D equipped with the image decoding device 31 described above.
  • the playback device PROD_D reads a moving image by decoding a read unit PROD_D1 that reads encoded data written to the recording medium PROD_M and a read unit PROD_D1 that reads the encoded data. And a decoding unit PROD_D2 to obtain.
  • the above-described image decoding device 31 is used as the decoding unit PROD_D2.
  • the recording medium PROD_M may be of the type built into the playback device PROD_D, such as (1) HDD or SSD, or (2) such as an SD memory card or USB flash memory. It may be of the type connected to the playback device PROD_D, or (3) may be loaded into a drive device (not shown) built in the playback device PROD_D, such as a DVD or BD. Good.
  • the playback device PROD_D has a display PROD_D3 for displaying a moving image, an output terminal PROD_D4 for outputting the moving image to the outside, and a transmitting unit for transmitting the moving image, as a supply destination of the moving image output by the decoding unit PROD_D2.
  • PROD_D5 may be further provided.
  • FIG. 9B illustrates a configuration in which the playback apparatus PROD_D includes all of these, but some of them may be omitted.
  • the transmission unit PROD_D5 may transmit a non-encoded moving image, or transmits encoded data encoded by a transmission encoding scheme different from the recording encoding scheme. You may do. In the latter case, it is preferable to interpose an encoding unit (not shown) that encodes a moving image using a transmission encoding method between the decoding unit PROD_D2 and the transmission unit PROD_D5.
  • Examples of such a playback device PROD_D include a DVD player, a BD player, and an HDD player (in this case, an output terminal PROD_D4 to which a television receiver or the like is connected is a main moving image supply destination).
  • a television receiver in this case, the display PROD_D3 is a main supply destination of moving images
  • a digital signage also referred to as an electronic signboard or an electronic bulletin board
  • the display PROD_D3 or the transmission unit PROD_D5 is the main supply of moving images.
  • Display PROD_D3 or transmission unit PROD_D5 is video
  • a smartphone which is a main image supply destination
  • a smartphone in this case, the display PROD_D3 or the transmission unit PROD_D5 is a main moving image supply destination
  • the like are also examples of such a playback device PROD_D.
  • the blocks of the image decoding device 31 and the image encoding device 11 described above may be realized in hardware by a logic circuit formed on an integrated circuit (IC chip), or may be a CPU (Central Processing Unit). You may implement
  • IC chip integrated circuit
  • CPU Central Processing Unit
  • each device includes a CPU that executes instructions of a program that realizes each function, a ROM (Read (Memory) that stores the program, a RAM (RandomAccess Memory) that expands the program, the program, and various data
  • a storage device such as a memory for storing the.
  • An object of the embodiment of the present invention is to record a program code (execution format program, intermediate code program, source program) of the control program for each device, which is software that realizes the functions described above, in a computer-readable manner. This can also be achieved by supplying a medium to each of the above devices, and reading and executing the program code recorded on the recording medium by the computer (or CPU or MPU).
  • Examples of the recording medium include tapes such as magnetic tapes and cassette tapes, magnetic disks such as floppy (registered trademark) disks / hard disks, CD-ROMs (Compact Disc-Read-Only Memory) / MO discs (Magneto-Optical discs).
  • tapes such as magnetic tapes and cassette tapes
  • magnetic disks such as floppy (registered trademark) disks / hard disks
  • CD-ROMs Compact Disc-Read-Only Memory
  • MO discs Magnetic-Optical discs
  • IC cards including memory cards) ) / Cards such as optical cards, mask ROM / EPROM (Erasable Programmable Read-Only Memory) / EEPROM (registered trademark) (Electrically Erasable and Programmable Read-Only Memory: registered trademark) / Semiconductor memories such as flash ROM, or Logic circuits such as PLD (Programmable logic device) and FPGA (Field Programmable Gate array) can be used.
  • each device may be configured to be connectable to a communication network, and the program code may be supplied via the communication network.
  • the communication network is not particularly limited as long as it can transmit the program code.
  • Internet intranet, extranet, LAN (Local Area Network), ISDN (Integrated Services Digital Network), VAN (Value-Added Network), CATV (Community Area Antenna / television / Cable Television), Virtual Private Network (Virtual Private Network) Network), telephone line network, mobile communication network, satellite communication network, and the like.
  • the transmission medium constituting the communication network may be any medium that can transmit the program code, and is not limited to a specific configuration or type.
  • IEEE Institute of Electrical and Electronic Engineers 1394, USB, power line carrier, cable TV line, telephone line, ADSL (Asymmetric Digital Subscriber Line) line, etc. wired such as IrDA (Infrared Data Association) or remote control , BlueTooth (registered trademark), IEEE802.11 wireless, HDR (High Data Rate), NFC (Near Field Communication), DLNA (registered trademark) (Digital Living Network Alliance), mobile phone network, satellite line, digital terrestrial broadcasting network, etc. It can also be used with other radios.
  • the embodiment of the present invention can also be realized in the form of a computer data signal embedded in a carrier wave in which the program code is embodied by electronic transmission.
  • Embodiment of this application is the 1st image filter apparatus which adds 1st offset to each pixel value of the some encoding unit which comprises the decoded image produced
  • a first adding unit that adds, to the target pixel value, a first offset obtained by referring to the first category and the first class among a plurality of first offsets decoded from the digitized data;
  • the setting unit uses an adjacent pixel of the target pixel as a reference pixel to set the first category and the first class, and the reference pixel is adjacent to the target pixel in the horizontal and vertical directions 4.
  • Pixel and target pixel upper left and lower right Switch the four adjacent pixels in the lower left upper right direction.
  • the reference pixel is switched to the horizontal / vertical or diagonal direction, the optimum reference direction can be selected and the pixel value can be corrected by offset addition.
  • a second image filter device that adds an offset to each pixel value of a coding unit using a change in a pixel value in a one-dimensional direction with respect to an output image of the first filter device.
  • the second image filter device includes a second class indicating a direction of reference to the target pixel in a one-dimensional direction, a second category indicating a change pattern of the pixel value in the one-dimensional direction, and a range of the target pixel value
  • a second setting unit that sets a band position indicating the second offset obtained by referring to the second category from among a plurality of second offsets decoded from the encoded data;
  • a second addition unit that adds the value to the value, and the second addition unit does not add the second offset to the pixel to which the first offset is added by the first addition unit, Add the first offset in the adder Adding the second offset relative bought pixels.
  • the offset can be appropriately added even when the addition of the offset is necessary from the change of the pixel value in the one-dimensional direction. In addition, it is possible to avoid performing the offset addition process twice.
  • a second image filter device that adds an offset to each pixel value of a coding unit using a change in a pixel value in a one-dimensional direction with respect to an input image of the first filter device.
  • the second image filter device includes a second class indicating a direction of reference to the target pixel in a one-dimensional direction, a second category indicating a change pattern of the pixel value in the one-dimensional direction, and a range of the target pixel value
  • a second setting unit that sets a band position indicating the second offset obtained by referring to the second category from among a plurality of second offsets decoded from the encoded data;
  • a first adding unit that adds the second offset to the value, and the first adding unit of the first filter device adds the first offset to the pixel to which the second offset is added by the second adding unit.
  • a second image filter device that adds an offset to each pixel value of a coding unit using a change in a pixel value in a one-dimensional direction with respect to an output image of the first filter device.
  • the second image filter device includes a first type using a second class indicating a reference direction in a one-dimensional direction with respect to a target pixel and a second category indicating a change pattern of a pixel value in the one-dimensional direction;
  • a second adder that adds the second offset obtained by referring to the position to the target pixel value, and the second adder adds the first offset to the pixel added by the first adder.
  • Embodiment of this application is the 1st image filter apparatus which adds a 1st offset to each pixel value of the some encoding unit which comprises the residual image and the prediction image and which comprises the local decoding image produced
  • generated A first setting unit for setting a first category indicating a change pattern of a pixel value in a two-dimensional direction and a first class indicating a change amount of the pixel value in a two-dimensional direction with respect to the target pixel; A first calculation unit for calculating a first offset; and a first offset obtained by referring to the first category and the first class from the plurality of calculated first offsets.
  • a first addition unit that adds to a pixel value
  • the setting unit uses an adjacent pixel of the target pixel as a reference pixel in order to set a first category and a first class
  • the reference pixel is Adjacent to the target pixel in horizontal and vertical directions And containing, switches the four adjacent pixels in the upper left lower right-lower left upper right direction with respect to the target pixel.
  • a second image filter device that adds an offset to each pixel value of a coding unit using a change in a pixel value in a one-dimensional direction with respect to an output image of the first filter device.
  • the second image filter device includes a second class indicating a direction of reference to the target pixel in a one-dimensional direction, a second category indicating a change pattern of the pixel value in the one-dimensional direction, and a range of the target pixel value
  • a second setting unit that sets a band position indicating a second offset, a second calculation unit that calculates a second offset, and a plurality of calculated second offsets, with reference to the second category
  • a second adder that adds the obtained second offset to the target pixel value, and the second adder is a second adder for the pixel to which the first offset is added by the first adder.
  • the first adder does not add the offset of For the pixel that has not adding the first offset is added to the second offset. Therefore, even if the addition of the offset is unnecessary from the change of the pixel value in the two-dimensional direction, the offset can be appropriately added even when the addition of the offset is necessary from the change of the pixel value in the one-dimensional direction. In addition, it is possible to avoid performing the offset addition process twice.
  • a second image filter device that adds an offset to each pixel value of a coding unit using a change in a pixel value in a one-dimensional direction with respect to an input image of the first filter device.
  • the second image filter device includes a second class indicating a direction of reference to the target pixel in a one-dimensional direction, a second category indicating a change pattern of the pixel value in the one-dimensional direction, and a range of the target pixel value
  • a second setting unit that sets a band position indicating a second offset, a second calculation unit that calculates a second offset, and a plurality of calculated second offsets, with reference to the second category
  • a second addition unit that adds the obtained second offset to the target pixel value, and the first addition unit of the first filter device is a pixel obtained by adding the second offset by the second addition unit.
  • a second image filter device that adds an offset to each pixel value of a coding unit using a change in a pixel value in a one-dimensional direction with respect to an output image of the first filter device.
  • the second image filter device includes a first type using a second class indicating a reference direction in a one-dimensional direction with respect to a target pixel and a second category indicating a change pattern of a pixel value in the one-dimensional direction;
  • a second setting unit that sets a second type that uses a band position indicating a range of target pixel values, a second calculation unit that calculates a second offset, and a plurality of calculated second offsets
  • a second adding unit that adds a second offset obtained by referring to the second category or band position to the target pixel value, wherein the second adding unit is a first adding unit.
  • Pixel with the first offset added in Is against performs addition of the offset using the second type, for the pixels which are not adding the first offset in a first adding unit for adding an offset using the first type.
  • the embodiment of the present application is a combination of a filter process based on an addition of an offset calculated using a change in a pixel value in a two-dimensional direction and a filter process based on an addition of an offset calculated using a change in a pixel value in two one-dimensional directions. It expresses with.
  • An image filter that adds an offset to each pixel value of a coding unit using changes in pixel values in two one-dimensional directions has two classes that indicate different one-dimensional directions with respect to the target pixel. Two categories obtained by referring to the two categories indicating the change pattern of the pixel value and the setting unit for setting the band position indicating the range of the target pixel value and the offset decoded from the encoded data.
  • An adder that adds an offset to the target pixel value, and the adder adds an average of the two offsets to the target pixel.
  • information on reference pixel positions of a filter (second filter) that uses a change in pixel values in a one-dimensional direction and a filter (first filter) that uses changes in pixel values in a two-dimensional direction Share
  • the second filter is applied after the first filter
  • the reference pixel position of the second filter is determined with reference to the reference pixel position used in the first filter.
  • the reference pixel position of the first filter is determined with reference to the reference pixel position used in the second filter.
  • the embodiment of the present application encodes the maximum number of the first filter class and the normalization coefficient in the picture parameter set or slice header, and uses a parameter closely related to the amount of change in the pixel value at the CTU level. Estimate the maximum number of classes and the normalization factor. The quantization width QP and CU size are used as parameters closely related to the amount of change in pixel value. Thus, since it is not necessary to encode the maximum number of first filter classes and the normalization coefficient for each CTU, fine offset adjustment can be performed while reducing the code amount.
  • the offset of the second filtering process with a small value is set to be equal to or less than the maximum offset value of the first filtering process. Also, for the binarization of the offset of the first process, an encoding method is selected in which the code amount is difficult to increase with a large input value, and for the binarization of the offset of the second process, the code amount is likely to decrease with a small input value. Select the conversion method. Thereby, the code amount of the offset used in the second process can be reduced more than the code amount used in the first process.
  • Embodiments of the present invention can be preferably applied to an image decoding apparatus that decodes encoded data in which image data is encoded, and an image encoding apparatus that generates encoded data in which image data is encoded. it can. Further, the present invention can be suitably applied to the data structure of encoded data generated by an image encoding device and referenced by the image decoding device.
  • Image encoding device 31 Image decoding device 314 SAO unit 115 SAO_E unit 2001 PO unit 2201 PO_E unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

符号化単位の各画素値に第１のオフセットを加算する画像フィルタ装置において、対象画素に対し２次元方向の画素値の変化パターンを示すカテゴリ、および２次元方向の画素値の変化量を示すクラスを設定し、符号化データから復号されたオフセットの中から、前記カテゴリとクラスを参照して求めたオフセットを対象画素値に加算する時に、カテゴリおよびクラスを設定するために、対象画素の隣接画素を参照画素として利用し、参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替える。

Description

画像フィルタ装置
　本発明の実施形態は、画像フィルタ装置に関する。
　動画像を効率的に伝送または記録するために、動画像を符号化することによって符号化データを生成する画像符号化装置、および、当該符号化データを復号することによって復号画像を生成する画像復号装置が用いられている。
　具体的な動画像符号化方式としては、例えば、H.264/AVCやHEVC（High-Efficiency Video Coding）にて提案されている方式などが挙げられる。
　このような動画像符号化方式においては、動画像を構成する画像（ピクチャ）は、画像を分割することにより得られるスライス、スライスを分割することにより得られる符号化単位（符号化ユニット（Coding Unit：CU）と呼ばれることもある）、および、符号化単位を分割することより得られるブロックである予測ユニット（PU）、変換ユニット（TU）からなる階層構造により管理され、CUごとに符号化／復号される。
　また、このような動画像符号化方式においては、通常、入力画像を符号化／復号することによって得られる局所復号画像に基づいて予測画像が生成され、当該予測画像を入力画像（原画像）から減算して得られる予測残差（「差分画像」または「残差画像」と呼ぶこともある）が符号化される。予測画像の生成方法としては、画面間予測（インター予測）、および、画面内予測（イントラ予測）が挙げられる。さらに、復号画像に対し、視覚的な歪除去を目的としたループフィルタの適用が一般的になっている。
　また、近年の動画像符号化および復号の技術として非特許文献１が挙げられる。
　さらに、近年では、ループフィルタとしてデブロッキングフィルタ、サンプル適応オフセット（SAO）、適応ループフィルタ（ALF）に加え、非特許文献２のピークSAOも提案されている。
　以上のとおり、複数のループフィルタが存在し、各々異なる効果を持っているものの、中には重複する効果もあり、ループフィルタの組み合わせ方にも工夫が必要になってきている。
"Algorithm Description of Joint Exploration Test Model 4", JVET-D1001, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 15-21 October 2016 "Peak Sample Adaptive Offset", JVET-D0133, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 15-21 October 2016
　復号画像に適用するループフィルタの種類は、デブロッキングフィルタ、SAO、ALF、ピークSAO（PO）と増えており、特に、SAOのオフセットタイプEOは１次元方向の画素値の変化を用い、POは画像の２次元方向の画素値の変化を用いる違いはあるが、双方とも対象画素と参照画素との画素値の変化を用いる点で類似している。そのため、冗長な部分が存在し、あるいは導出する情報を共有することでSAOとPOを合わせた符号化効率を向上させることができるが、これらの点はまだ十分に考慮されていない。
　そこで、本発明はPOとSAOの組み合わせにおいて冗長な部分を削除し、あるいはいくつかの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理量の増加を抑えつつ符号化効率を従来よりも向上させることを目的とする。
　本願の実施形態は、残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、符号化データから復号された複数の第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替える。
　本願の実施形態は、残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、第１のオフセットを算出する算出部と、算出された複数の第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替えることを特徴とする第１の画像フィルタ装置を備える画像フィルタ装置。
　本発明に係る形態によれば、POとSAOの組み合わせにおいて冗長な部分を削除し、あるいはいくつかの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理量の増加を抑えつつ符号化効率を従来よりも向上させることができる。
実施形態１に係る画像伝送システムの構成を示す概略図である。 実施形態１に係る符号化ストリームのデータの階層構造を示す図である。 PU分割モードのパターンを示す図である。（ａ）～（ｈ）は、それぞれ、PU分割モードが、2Nx2N、2NxN、2NxnU、2NxnD、Nx2N、nLx2N、nRx2N、および、NxNの場合のパーティション形状について示している。 参照ピクチャおよび参照ピクチャリストの一例を示す概念図である。 実施形態１に係る画像復号装置の構成を示すブロック図である。 実施形態１に係る画像符号化装置の構成を示すブロック図である。 SAOのEOのクラス毎の対象画素と参照画素の関係を示す図である。 実施形態１に係る画像符号化装置を搭載した送信装置、および、画像復号装置を搭載した受信装置の構成について示した図である。（ａ）は、画像符号化装置を搭載した送信装置を示しており、（ｂ）は、画像復号装置を搭載した受信装置を示している。 実施形態１に係る画像符号化装置を搭載した記録装置、および、画像復号装置を搭載した再生装置の構成について示した図である。（ａ）は、画像符号化装置を搭載した記録装置を示しており、（ｂ）は、画像復号装置を搭載した再生装置を示している。 図５に示すSAO部314のブロック図である。 図１０に示すカテゴリ設定部の動作を示すフローチャートである。 SAOのカテゴリ毎の対象画素と参照画素の画素値の大小関係を示す図である。 実施形態１に係るPOの対象画素と参照画素の関係を示す図である。 実施形態１に係るPOの対象画素と参照画素の関係を示す図である。 実施形態５に係るSAOのEOとPOにおける対象画素と参照画素の関係を示す図である。 SAOのBOのバンドを説明する図である。 図６に示すSAO_E部115のブロック図である。 図１７のオフセット算出部の動作を示すフローチャートである。 図１７のオフセット情報選択部の動作を示すフローチャートである。 PO部のブロック図である。 図２０のPOカテゴリ/POクラス設定部の動作を示すフローチャートである。 PO_E部のブロック図である。 図２２のPOオフセット算出部の動作を示すフローチャートである。 実施形態２の１次元EOの組み合わせ表である。 図２０のPOカテゴリ/POクラス設定部の動作を示すフローチャートの別の一例である。 図２０のPOカテゴリ/POクラス設定部の変形例１における動作を示すフローチャートである。 変形例１におけるSAO部の動作を示すフローチャートである。 変形例２における復号装置側のSAO部とPO部のブロック図である。 変形例２における符号化装置側のSAO_E部とPO_E部のブロック図である。 変形例２のカテゴリ設定部の動作を示すフローチャートである。 変形例２のPOカテゴリ/POクラス設定部の動作を示すフローチャートである。 実施形態３の１次元EOの組み合わせとpcatの関係を示す表である。 実施形態６のCmaxの算出に使用する（α、β）を示す表である。 実施形態２のカテゴリ設定部の動作を示すフローチャートである。 実施形態２のオフセット情報選択部の動作を示すフローチャートである。 実施形態７でオフセットのバイナリゼーションに用いる可変長符号表の一例である。 実施形態３のPO部およびSAO部の動作を示すフローチャートである。 実施形態４のPO部およびSAO部の動作を示すフローチャートである。 実施形態６のPOカテゴリ/POクラス設定部の動作を示すフローチャートである。
　〔実施形態１〕
以下、図面を参照しながら本発明の実施形態について説明する。
図１は、本実施形態に係る画像伝送システム１の構成を示す概略図である。
　画像伝送システム１は、符号化対象画像を符号化した符号を伝送し、伝送された符号を復号し画像を表示するシステムである。画像伝送システム１は、画像符号化装置１１、ネットワーク２１、画像復号装置３１および画像表示装置４１を含んで構成される。
　画像符号化装置１１には、単一レイヤもしくは複数レイヤの画像を示す画像Ｔが入力される。レイヤとは、ある時間を構成するピクチャが１つ以上ある場合に、複数のピクチャを区別するために用いられる概念である。たとえば、同一ピクチャを、画質や解像度の異なる複数のレイヤで符号化するとスケーラブル符号化になり、異なる視点のピクチャを複数のレイヤで符号化するとビュースケーラブル符号化となる。複数のレイヤのピクチャ間で予測（インターレイヤ予測、インタービュー予測）を行う場合には、符号化効率が大きく向上する。また予測を行わない場合（サイマルキャスト）の場合にも、符号化データをまとめることができる。
　ネットワーク２１は、画像符号化装置１１が生成した符号化ストリームＴｅを画像復号装置３１に伝送する。ネットワーク２１は、インターネット（internet）、広域ネットワーク（WAN:Wide Area Network）、小規模ネットワーク（LAN:Local Area Network）またはこれらの組み合わせである。ネットワーク２１は、必ずしも双方向の通信網に限らず、地上デジタル放送、衛星放送等の放送波を伝送する一方向の通信網であっても良い。また、ネットワーク２１は、DVD（Digital Versatile Disc）、BD（Blu-ray（登録商標）Disc）等の符号化ストリームTeを記録した記憶媒体で代替されても良い。
　画像復号装置３１は、ネットワーク２１が伝送した符号化ストリームTeのそれぞれを復号し、それぞれ復号した１または複数の復号画像Tdを生成する。
　画像表示装置４１は、画像復号装置３１が生成した１または複数の復号画像Tdの全部または一部を表示する。画像表示装置４１は、例えば、液晶ディスプレイ、有機ＥＬ（Electro-luminescence）ディスプレイ等の表示デバイスを備える。また、空間スケーラブル符号化、ＳＮＲスケーラブル符号化では、画像復号装置３１、画像表示装置４１が高い処理能力を有する場合には、画質の高い拡張レイヤ画像を表示し、より低い処理能力しか有しない場合には、拡張レイヤほど高い処理能力、表示能力を必要としないベースレイヤ画像を表示する。
　　＜演算子＞
　本明細書で用いる演算子を以下に記載する。
　>>は右ビットシフト、<<は左ビットシフト、&はビットワイズAND、|はビットワイズOR、|=は別の条件との和演算（OR）である。
　x ? y : zは、xが真（0以外）の場合にy、xが偽（0）の場合にzをとる３項演算子である。
　Clip3(a, b, c) は、cをa以上b以下の値にクリップする関数であり、c<aの場合にはaを返し、c>bの場合にはbを返し、その他の場合にはcを返す関数である（ただし、a<=b）。
　　＜符号化ストリームTeの構造＞
　本実施形態に係る画像符号化装置１１および画像復号装置３１の詳細な説明に先立って、画像符号化装置１１によって生成され、画像復号装置３１によって復号される符号化ストリームTeのデータ構造について説明する。
　図２は、符号化ストリームTeにおけるデータの階層構造を示す図である。符号化ストリームTeは、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。図２の（ａ）～（ｆ）は、それぞれ、シーケンスSEQを既定する符号化ビデオシーケンス、ピクチャPICTを規定する符号化ピクチャ、スライスSを規定する符号化スライス、スライスデータを規定する符号化スライスデータ、符号化スライスデータに含まれる符号化ツリーユニット、符号化ツリーユニットに含まれる符号化ユニット（Coding Unit；CU）を示す図である。
　　（符号化ビデオシーケンス）
　符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために画像復号装置３１が参照するデータの集合が規定されている。シーケンスSEQは、図２の（ａ）に示すように、ビデオパラメータセット（Video Parameter Set）、シーケンスパラメータセットSPS（Sequence Parameter Set）、ピクチャパラメータセットPPS（Picture Parameter Set）、ピクチャPICT、および、付加拡張情報SEI（Supplemental Enhancement Information）を含んでいる。ここで＃の後に示される値はレイヤIDを示す。図２では、#0と#1すなわちレイヤ０とレイヤ１の符号化データが存在する例を示すが、レイヤの種類およびレイヤの数はこれによらない。
　ビデオパラメータセットVPSは、複数のレイヤから構成されている動画像において、複数の動画像に共通する符号化パラメータの集合および動画像に含まれる複数のレイヤおよび個々のレイヤに関連する符号化パラメータの集合が規定されている。
　シーケンスパラメータセットSPSでは、対象シーケンスを復号するために画像復号装置３１が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。なお、SPSは複数存在してもよい。その場合、PPSから複数のSPSの何れかを選択する。
　ピクチャパラメータセットPPSでは、対象シーケンス内の各ピクチャを復号するために画像復号装置３１が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値（pic_init_qp_minus26）や重み付き予測の適用を示すフラグ（weighted_pred_flag）が含まれる。なお、PPSは複数存在してもよい。その場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
　　（符号化ピクチャ）
　符号化ピクチャでは、処理対象のピクチャPICTを復号するために画像復号装置３１が参照するデータの集合が規定されている。ピクチャPICTは、図２の（ｂ）に示すように、スライスS0～SNS-1を含んでいる（ＮＳはピクチャPICTに含まれるスライスの総数）。
　なお、以下、スライスS0～SNS-1のそれぞれを区別する必要が無い場合、符号の添え字を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
　　（符号化スライス）
　符号化スライスでは、処理対象のスライスSを復号するために画像復号装置３１が参照するデータの集合が規定されている。スライスSは、図２の（ｃ）に示すように、スライスヘッダSH、および、スライスデータSDATAを含んでいる。
　スライスヘッダSHには、対象スライスの復号方法を決定するために画像復号装置３１が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報（slice_type）は、スライスヘッダSHに含まれる符号化パラメータの一例である。
　スライスタイプ指定情報により指定可能なスライスタイプとしては、（１）符号化の際にイントラ予測のみを用いるＩスライス、（２）符号化の際に単方向予測、または、イントラ予測を用いるＰスライス、（３）符号化の際に単方向予測、双方向予測、または、イントラ予測を用いるＢスライスなどが挙げられる。
　なお、スライスヘッダSHには、前記符号化ビデオシーケンスに含まれる、ピクチャパラメータセットPPSへの参照（pic_parameter_set_id）を含んでいても良い。
　　（符号化スライスデータ）
　符号化スライスデータでは、処理対象のスライスデータSDATAを復号するために画像復号装置３１が参照するデータの集合が規定されている。スライスデータSDATAは、図２の（ｄ）に示すように、符号化ツリーユニット（CTU:Coding Tree Unit）を含んでいる。CTUは、スライスを構成する固定サイズ（例えば64x64）の矩形であり、最大符号化単位（LCU:Largest Coding Unit）と呼ぶこともある。
　　（符号化ツリーユニット）
　図２の（ｅ）に示すように、処理対象の符号化ツリーユニットを復号するために画像復号装置３１が参照するデータの集合が規定されている。符号化ツリーユニットは、再帰的な４分木分割（QT分割）または２分木分割（BT分割）により分割される。再帰的な４分木分割または２分木分割により得られる木構造のノードのことを符号化ノード（CN:Coding Node）と称する。４分木および２分木の中間ノードは、符号化ツリー（CT:Coding Tree）であり、符号化ツリーユニット自身も最上位の符号化ツリーとして規定される。
　CTUは、QT分割を行うか否かを示すQT分割フラグ（cu_split_flag）、およびBT分割の分割方法を示すBT分割モード（split_bt_mode）を含む。cu_split_flagが１の場合には、４つの符号化ノードCNに分割される。cu_split_flagが０の場合には、符号化ノードCNは分割されず、１つの符号化ユニット（CU:Coding Unit）をノードとして持つ。一方、split_bt_modeが２の場合には、２つの符号化ノードCNに水平分割される。split_bt_modeが１の場合には、２つの符号化ノードCNに垂直分割される。split_bt_modeが０の場合には、符号化ノードCNは分割されず、１つの符号化ユニットCUをノードとして持つ。符号化ユニットCUは符号化ツリーの末端ノードであり、これ以上分割されない。符号化ユニットCUは、符号化処理の基本的な単位となる。
　符号化ツリーユニットCTUのサイズが64x64画素の場合にとり得る符号化ユニットのサイズは、例えば、64x64画素、64x32画素、32x64画素、32x32画素、64x16画素、16x64画素、32x16画素、16x32画素、16x16画素、64x8画素、8x64画素、32x8画素、8x32画素、16x8画素、8x16画素、および、8x8画素の何れかである。ただし、分割の回数や組み合わせ、符号化ユニットのサイズなどに関する制約によっては、これ以外のサイズもとり得る。
　　（符号化ユニット）
　図２の（ｆ）に示すように、処理対象の符号化ユニットを復号するために画像復号装置３１が参照するデータの集合が規定されている。具体的には、符号化ユニットは、予測ツリー、変換ツリー、CUヘッダCUHから構成される。CUヘッダでは予測モード、分割方法（PU分割モード）等が規定される。
　予測ツリーでは、符号化ユニットを１または複数に分割した各予測ユニット（PU）の予測情報（参照ピクチャインデックス、動きベクトル等）が規定される。別の表現でいえば、予測ユニットは、符号化ユニットを構成する１または複数の重複しない領域である。また、予測ツリーは、前述の分割により得られた１または複数の予測ユニットを含む。なお、以下では、予測ユニットをさらに分割した予測単位を「サブブロック」と呼ぶ。サブブロックは、複数の画素によって構成されている。予測ユニットとサブブロックのサイズが等しい場合には、予測ユニット中のサブブロックは１つである。予測ユニットがサブブロックのサイズよりも大きい場合には、予測ユニットは、サブブロックに分割される。たとえば予測ユニットが8x8、サブブロックが4x4の場合には、予測ユニットは水平に２分割、垂直に２分割からなる、４つのサブブロックに分割される。
　予測処理は、この予測ユニット（サブブロック）ごとに行ってもよい。
　予測ツリーにおける分割の種類は、大まかにいえば、イントラ予測の場合と、インター予測の場合との２つがある。イントラ予測とは、同一ピクチャ内の予測であり、インター予測とは、互いに異なるピクチャ間（例えば、表示時刻間、レイヤ画像間）で行われる予測処理を指す。
　イントラ予測の場合、分割方法は、2Nx2N（符号化ユニットと同一サイズ）と、NxNとがある。
　また、インター予測の場合、分割方法は、符号化データのPU分割モード（part_mode）により符号化され、2Nx2N（符号化ユニットと同一サイズ）、2NxN、2NxnU、2NxnD、Nx2N、nLx2N、nRx2N、および、NxNなどがある。なお、2NxN、Nx2Nは1:1の対称分割を示し、
2NxnU、2NxnDおよびnLx2N、nRx2Nは、1:3、3:1の非対称分割を示す。CUに含まれるPUを順にPU0、PU1、PU2、PU3と表現する。
　図３の（ａ）～（ｈ）に、それぞれのPU分割モードにおけるパーティションの形状（PU分割の境界の位置）を具体的に図示している。図３の（ａ）は、2Nx2Nのパーティションを示し、（ｂ）、（ｃ）、（ｄ）は、それぞれ、2NxN、2NxnU、および、2NxnDのパーティション（横長パーティション）を示す。（ｅ）、（ｆ）、（ｇ）は、それぞれ、Nx2N、nLx2N、nRx2Nである場合のパーティション（縦長パーティション）を示し、（ｈ）は、NxNのパーティションを示す。なお、横長パーティションと縦長パーティションを総称して長方形パーティション、2Nx2N、NxNを総称して正方形パーティションと呼ぶ。
　また、変換ツリーにおいては、符号化ユニットが１または複数の変換ユニットに分割され、各変換ユニットの位置とサイズとが規定される。別の表現でいえば、変換ユニットは、符号化ユニットを構成する１または複数の重複しない領域のことである。また、変換ツリーは、前述の分割より得られた１または複数の変換ユニットを含む。
　変換ツリーにおける分割には、符号化ユニットと同一のサイズの領域を変換ユニットとして割り付けるものと、前述したCUの分割と同様、再帰的な４分木分割によるものがある。
　変換処理は、この変換ユニットごとに行われる。
　　（予測パラメータ）
　予測ユニット（PU：Prediction Unit）の予測画像は、PUに付随する予測パラメータによって導出される。予測パラメータには、イントラ予測の予測パラメータもしくはインター予測の予測パラメータがある。以下、インター予測の予測パラメータ（インター予測パラメータ）について説明する。インター予測パラメータは、予測リスト利用フラグpredFlagL0、predFlagL1と、参照ピクチャインデックスrefIdxL0、refIdxL1と、動きベクトルmvL0、mvL1から構成される。予測リスト利用フラグpredFlagL0、predFlagL1は、各々L0リスト、L1リストと呼ばれる参照ピクチャリストが用いられるか否かを示すフラグであり、値が１の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「ＸＸであるか否かを示すフラグ」と記す場合、フラグが０以外（たとえば１）をＸＸである場合、０をＸＸではない場合とし、論理否定、論理積などでは１を真、０を偽と扱う（以下同様）。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。
　符号化データに含まれるインター予測パラメータを導出するためのシンタックス要素には、例えば、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXがある。
　　（参照ピクチャリスト）
　参照ピクチャリストは、参照ピクチャメモリ３０６に記憶された参照ピクチャからなるリストである。図４は、参照ピクチャおよび参照ピクチャリストの一例を示す概念図である。図４の（ａ）において、矩形はピクチャ、矢印はピクチャの参照関係、横軸は時間、矩形中のI、P、Bは各々イントラピクチャ、単予測ピクチャ、双予測ピクチャ、矩形中の数字は復号順を示す。図に示すように、ピクチャの復号順は、I0、P1、B2、B3、B4であり、表示順は、I0、B3、B2、B4、P1である。図４の（ｂ）に、参照ピクチャリストの例を示す。参照ピクチャリストは、参照ピクチャの候補を表すリストであり、１つのピクチャ（スライス）が１つ以上の参照ピクチャリストを有してもよい。図の例では、対象ピクチャB3は、L0リストRefPicList0およびL1リストRefPicList1の２つの参照ピクチャリストを持つ。対象ピクチャがB3の場合の参照ピクチャは、I0、P1、B2であり、参照ピクチャはこれらのピクチャを要素として持つ。個々の予測ユニットでは、参照ピクチャリストRefPicListX中のどのピクチャを実際に参照するかを参照ピクチャインデックスrefIdxLXで指定する。図では、refIdxL0およびrefIdxL1により参照ピクチャP1とB2が参照される例を示す。
　　（マージ予測とAMVP予測）
　予測パラメータの復号（符号化）方法には、マージ予測（merge）モードとAMVP（Adaptive Motion Vector Prediction、適応動きベクトル予測）モードがある、マージフラグmerge_flagは、これらを識別するためのフラグである。マージ予測モードは、予測リスト利用フラグpredFlagLX（またはインター予測識別子inter_pred_idc）、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めずに、既に処理した近傍PUの予測パラメータから導出する用いるモードであり、AMVPモードは、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めるモードである。なお、動きベクトルmvLXは、予測ベクトルmvpLXを識別する予測ベクトルインデックスmvp_LX_idxと差分ベクトルmvdLXとして符号化される。
　インター予測識別子inter_pred_idcは、参照ピクチャの種類および数を示す値であり、PRED_L0、PRED_L1、PRED_BIの何れかの値をとる。PRED_L0、PRED_L1は、各々L0リスト、L1リストの参照ピクチャリストで管理された参照ピクチャを用いることを示し、１枚の参照ピクチャを用いること（単予測）を示す。PRED_BIは２枚の参照ピクチャを用いること（双予測BiPred）を示し、L0リストとL1リストで管理された参照ピクチャを用いる。予測ベクトルインデックスmvp_LX_idxは予測ベクトルを示すインデックスであり、参照ピクチャインデックスrefIdxLXは、参照ピクチャリストで管理された参照ピクチャを示すインデックスである。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する。
　マージインデックスmerge_idxは、処理が完了したPUから導出される予測パラメータ候補（マージ候補）のうち、いずれかの予測パラメータを復号対象PUの予測パラメータとして用いるかを示すインデックスである。
　　（動きベクトル）
　動きベクトルmvLXは、異なる２つのピクチャ上のブロック間のずれ量を示す。動きベクトルmvLXに関する予測ベクトル、差分ベクトルを、それぞれ予測ベクトルmvpLX、差分ベクトルmvdLXと呼ぶ。
　　（インター予測識別子inter_pred_idcと予測リスト利用フラグpredFlagLX）
　インター予測識別子inter_pred_idcと、予測リスト利用フラグpredFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
　inter_pred_idc = （predFlagL1<<１） + predFlagL0
　predFlagL0 = inter_pred_idc & １
　predFlagL1 = inter_pred_idc >> １
　なお、インター予測パラメータは、予測リスト利用フラグを用いても良いし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
　　（双予測biPredの判定）
　双予測BiPredであるかのフラグbiPredは、２つの予測リスト利用フラグがともに１であるかによって導出できる。たとえば以下の式で導出できる。
　biPred = (predFlagL0 == 1 && predFlagL1 == 1)
　フラグbiPredは、インター予測識別子が２つの予測リスト（参照ピクチャ）を使うことを示す値であるか否かによっても導出できる。たとえば以下の式で導出できる。
　biPred = (inter_pred_idc == PRED_BI) ? 1 : 0
前記式は、以下の式でも表現できる。
　biPred = (inter_pred_idc == PRED_BI)
　なお、PRED_BIはたとえば3の値を用いることができる。
　　（画像復号装置の構成）
　次に、本実施形態に係る画像復号装置３１の構成について説明する。図５は、本実施形態に係る画像復号装置３１の構成を示すブロック図である。画像復号装置３１は、エントロピー復号部３０１、予測パラメータ復号部（予測画像復号装置）３０２、ループフィルタ３０５、参照ピクチャメモリ３０６、予測パラメータメモリ３０７、予測画像生成部（予測画像生成装置）３０８、逆量子化・逆DCT部３１１、および加算部３１２を含んで構成される。
　また、予測パラメータ復号部３０２は、インター予測パラメータ復号部３０３およびイントラ予測パラメータ復号部３０４を含んで構成される。予測画像生成部３０８は、インター予測画像生成部３０９およびイントラ予測画像生成部３１０を含んで構成される。
　エントロピー復号部３０１は、外部から入力された符号化ストリームTeに対してエントロピー復号を行って、個々の符号（シンタックス要素）を分離し復号する。分離された符号には、予測画像を生成するための予測情報および、差分画像を生成するための残差情報などがある。
　エントロピー復号部３０１は、分離した符号の一部を予測パラメータ復号部３０２に出力する。分離した符号の一部とは、例えば、予測モードpredMode、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXである。どの符号を復号するかの制御は、予測パラメータ復号部３０２の指示に基づいて行われる。エントロピー復号部３０１は、量子化係数を逆量子化・逆DCT部３１１に出力する。この量子化係数は、符号化処理において、残差信号に対してDCT（Discrete Cosine Transform、離散コサイン変換）を行い量子化して得られる係数である。
　インター予測パラメータ復号部３０３は、エントロピー復号部３０１から入力された符号に基づいて、予測パラメータメモリ３０７に記憶された予測パラメータを参照してインター予測パラメータを復号する。
　インター予測パラメータ復号部３０３は、復号したインター予測パラメータを予測画像生成部３０８に出力し、また予測パラメータメモリ３０７に記憶する。インター予測パラメータ復号部３０３の詳細については後述する。
　イントラ予測パラメータ復号部３０４は、エントロピー復号部３０１から入力された符号に基づいて、予測パラメータメモリ３０７に記憶された予測パラメータを参照してイントラ予測パラメータを復号する。イントラ予測パラメータとは、CUを１つのピクチャ内で予測する処理で用いるパラメータ、例えば、イントラ予測モードIntraPredModeである。イントラ予測パラメータ復号部３０４は、復号したイントラ予測パラメータを予測画像生成部３０８に出力し、また予測パラメータメモリ３０７に記憶する。
　イントラ予測パラメータ復号部３０４は、輝度と色差で異なるイントラ予測モードを導出しても良い。この場合、イントラ予測パラメータ復号部３０４は、輝度の予測パラメータとして輝度予測モードIntraPredModeY、色差の予測パラメータとして、色差予測モードIntraPredModeCを復号する。輝度予測モードIntraPredModeYは、３５モードであり、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）が対応する。色差予測モードIntraPredModeCは、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）、LMモード（３５）の何れかを用いるものである。イントラ予測パラメータ復号部３０４は、IntraPredModeCは輝度モードと同じモードであるか否かを示すフラグを復号し、フラグが輝度モードと同じモードであることを示せば、IntraPredModeCにIntraPredModeYを割り当て、フラグが輝度モードと異なるモードであることを示せば、IntraPredModeCとして、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）、LMモード（３５）を復号しても良い。
　ループフィルタ３０５は、加算部３１２が生成したCUの復号画像に対し、デブロッキングフィルタ、サンプル適応オフセット（SAO）、適応ループフィルタ（ALF）等のフィルタを施す。
　参照ピクチャメモリ３０６は、加算部３１２が生成したCUの復号画像を、復号対象のピクチャおよびCU毎に予め定めた位置に記憶する。
　予測パラメータメモリ３０７は、予測パラメータを、復号対象のピクチャおよび予測ユニット（もしくはサブブロック、固定サイズブロック、ピクセル）毎に予め定めた位置に記憶する。具体的には、予測パラメータメモリ３０７は、インター予測パラメータ復号部３０３が復号したインター予測パラメータ、イントラ予測パラメータ復号部３０４が復号したイントラ予測パラメータおよびエントロピー復号部３０１が分離した予測モードpredModeを記憶する。記憶されるインター予測パラメータには、例えば、予測リスト利用フラグpredFlagLX（インター予測識別子inter_pred_idc）、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXがある。
　予測画像生成部３０８には、エントロピー復号部３０１から入力された予測モードpredModeが入力され、また予測パラメータ復号部３０２から予測パラメータが入力される。また、予測画像生成部３０８は、参照ピクチャメモリ３０６から参照ピクチャを読み出す。予測画像生成部３０８は、予測モードpredModeが示す予測モードで、入力された予測パラメータと読み出した参照ピクチャを用いてPUの予測画像を生成する。
　ここで、予測モードpredModeがインター予測モードを示す場合、インター予測画像生成部３０９は、インター予測パラメータ復号部３０３から入力されたインター予測パラメータと読み出した参照ピクチャを用いてインター予測によりPUの予測画像を生成する。
　インター予測画像生成部３０９は、予測リスト利用フラグpredFlagLXが１である参照ピクチャリスト（L0リスト、もしくはL1リスト）に対し、参照ピクチャインデックスrefIdxLXで示される参照ピクチャから、復号対象PUを基準として動きベクトルmvLXが示す位置にある参照ピクチャブロックを参照ピクチャメモリ３０６から読み出す。インター予測画像生成部３０９は、読み出した参照ピクチャブロックをもとに予測を行ってPUの予測画像を生成する。インター予測画像生成部３０９は、生成したPUの予測画像を加算部３１２に出力する。
　予測モードpredModeがイントラ予測モードを示す場合、イントラ予測画像生成部３１０は、イントラ予測パラメータ復号部３０４から入力されたイントラ予測パラメータと読み出した参照ピクチャを用いてイントラ予測を行う。具体的には、イントラ予測画像生成部３１０は、復号対象のピクチャであって、既に復号されたPUのうち、復号対象PUから予め定めた範囲にある隣接PUを参照ピクチャメモリ３０６から読み出す。予め定めた範囲とは、復号対象PUがいわゆるラスタースキャンの順序で順次移動する場合、例えば、左、左上、上、右上の隣接PUのうちのいずれかであり、イントラ予測モードによって異なる。ラスタースキャンの順序とは、各ピクチャにおいて、上端から下端まで各行について、順次左端から右端まで移動させる順序である。
　イントラ予測画像生成部３１０は、読み出した隣接PUについてイントラ予測モードIntraPredModeが示す予測モードで予測を行ってPUの予測画像を生成する。イントラ予測画像生成部３１０は、生成したPUの予測画像を加算部３１２に出力する。
　イントラ予測パラメータ復号部３０４において、輝度と色差で異なるイントラ予測モードを導出する場合、イントラ予測画像生成部３１０は、輝度予測モードIntraPredModeYに応じて、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）の何れかによって輝度のPUの予測画像を生成し、色差予測モードIntraPredModeCに応じて、プレーナ予測（０）、DC予測（１）、方向予測（２～３４）、LMモード（３５）の何れかによって色差のPUの予測画像を生成する。
　逆量子化・逆DCT部３１１は、エントロピー復号部３０１から入力された量子化係数を逆量子化してDCT係数を求める。逆量子化・逆DCT部３１１は、求めたDCT係数について逆DCT（Inverse Discrete Cosine Transform、逆離散コサイン変換）を行い、残差信号を算出する。逆量子化・逆DCT部３１１は、算出した残差信号を加算部３１２に出力する。
　加算部３１２は、インター予測画像生成部３０９またはイントラ予測画像生成部３１０から入力されたPUの予測画像と逆量子化・逆DCT部３１１から入力された残差信号を画素毎に加算して、PUの復号画像を生成する。加算部３１２は、生成したPUの復号画像をピクチャ毎にデブロッキングフィルタ３１３、SAO（サンプル適応オフセット）部３１４、またはＡＬＦ３１５の少なくとも何れかに出力する。
　デブロッキングフィルタ３１３は、ＣＵ境界を介して互いに隣接する画素のデブロック前画素値の差が予め定められた閾値よりも小さい場合に、当該ＣＵ境界に対してデブロッキング処理を施すことによって、当該ＣＵ境界付近の画像の平滑化を行う。デブロッキングフィルタ３１３によりデブロッキング処理が施された画像は、デブロック済復号画像として、SAO部３１４に出力される。なお、デブロック前画素値とは、加算部３１２より出力された画像における画素値である。
　SAO部３１４は、オフセットフィルタ前復号画像に対して、符号化データＴｅから復号されたオフセットを用いたオフセットフィルタ処理を所定の単位毎に施すことによって、オフセットフィルタ済復号画像を生成する。なお、オフセットフィルタ前復号画像とは、加算部３１２より出力された画像、またはデブロッキングフィルタ３１３より出力されたデブロック済復号画像であり得る。
　ＡＬＦ３１５は、ＡＬＦ前復号画像に対して、符号化データＴｅから復号されたＡＬＦパラメータＡＬＦＰを用いた適応的フィルタ処理を施すことによって、ＡＬＦ済復号画像を生成する。ＡＬＦ済復号画像は、復号画像Ｔｄとして外部に出力されると共に、エントロピー復号部３０１によって符号化データＴｅから復号されたＰＯＣ情報と関連付けて参照ピクチャメモリ３０６に格納される。ＡＬＦ３１５の具体的な構成については、後述するため、ここでは説明を省略する。なお、ＡＬＦ前復号画像とは、加算部３１２より出力された画像、デブロック済復号画像、またはオフセットフィルタ済復号画像であり得る。
　　（画像符号化装置の構成）
　次に、本実施形態に係る画像符号化装置１１の構成について説明する。図６は、本実施形態に係る画像符号化装置１１の構成を示すブロック図である。画像符号化装置１１は、予測画像生成部１０１、減算部１０２、DCT・量子化部１０３、エントロピー符号化部１０４、逆量子化・逆DCT部１０５、加算部１０６、ループフィルタ１０７、予測パラメータメモリ（予測パラメータ記憶部、フレームメモリ）１０８、参照ピクチャメモリ（参照画像記憶部、フレームメモリ）１０９、符号化パラメータ決定部１１０、予測パラメータ符号化部１１１を含んで構成される。予測パラメータ符号化部１１１は、インター予測パラメータ符号化部１１２およびイントラ予測パラメータ符号化部１１３を含んで構成される。
　予測画像生成部１０１は画像Ｔの各ピクチャについて、そのピクチャを分割した領域である符号化ユニットCU毎に予測ユニットPUの予測画像Ｐを生成する。ここで、予測画像生成部１０１は、予測パラメータ符号化部１１１から入力された予測パラメータに基づいて参照ピクチャメモリ１０９から復号済のブロックを読み出す。予測パラメータ符号化部１１１から入力された予測パラメータとは、例えばインター予測の場合、動きベクトルである。予測画像生成部１０１は、対象PUを起点として動きベクトルが示す参照画像上の位置にあるブロックを読み出す。またイントラ予測の場合、予測パラメータとは例えばイントラ予測モードである。イントラ予測モードで使用する隣接PUの画素値を参照ピクチャメモリ１０９から読み出し、PUの予測画像Pを生成する。予測画像生成部１０１は、読み出した参照ピクチャブロックについて複数の予測方式のうちの１つの予測方式を用いてPUの予測画像Ｐを生成する。予測画像生成部１０１は、生成したPUの予測画像Ｐを減算部１０２に出力する。
　なお、予測画像生成部１０１は、既に説明した予測画像生成部３０８と同じ動作である。
　予測画像生成部１０１は、予測パラメータ符号化部から入力されたパラメータを用いて、参照ピクチャメモリから読み出した参照ブロックの画素値をもとにPUの予測画像Pを生成する。予測画像生成部１０１で生成した予測画像は減算部１０２、加算部１０６に出力される。
　減算部１０２は、予測画像生成部１０１から入力されたPUの予測画像Ｐの信号値を、画像Ｔの対応するPUの画素値から減算して、残差信号を生成する。減算部１０２は、生成した残差信号をDCT・量子化部１０３に出力する。
　DCT・量子化部１０３は、減算部１０２から入力された残差信号についてDCTを行い、DCT係数を算出する。DCT・量子化部１０３は、算出したDCT係数を量子化して量子化係数を求める。DCT・量子化部１０３は、求めた量子化係数をエントロピー符号化部１０４および逆量子化・逆DCT部１０５に出力する。
　エントロピー符号化部１０４には、DCT・量子化部１０３から量子化係数が入力され、予測パラメータ符号化部１１１から符号化パラメータが入力される。入力される符号化パラメータには、例えば、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLX、予測モードpredMode、およびマージインデックスmerge_idx等の符号がある。
　エントロピー符号化部１０４は、入力された量子化係数と符号化パラメータをエントロピー符号化して符号化ストリームTeを生成し、生成した符号化ストリームTeを外部に出力する。
　逆量子化・逆DCT部１０５は、DCT・量子化部１０３から入力された量子化係数を逆量子化してDCT係数を求める。逆量子化・逆DCT部１０５は、求めたDCT係数について逆DCTを行い、残差信号を算出する。逆量子化・逆DCT部１０５は、算出した残差信号を加算部１０６に出力する。
　加算部１０６は、予測画像生成部１０１から入力されたPUの予測画像Ｐの信号値と逆量子化・逆DCT部１０５から入力された残差信号の信号値を画素毎に加算して、復号画像を生成する。加算部１０６は、生成した復号画像を参照ピクチャメモリ１０９に記憶する。
　ループフィルタ１０７は加算部１０６が生成した復号画像に対し、デブロッキングフィルタ１１４、SAO_E（サンプル適応オフセットエンコーダ）部１１５、適応ループフィルタ（ALF）１１６を施す。
　予測パラメータメモリ１０８は、符号化パラメータ決定部１１０が生成した予測パラメータを、符号化対象のピクチャおよびCU毎に予め定めた位置に記憶する。
　参照ピクチャメモリ１０９は、ループフィルタ１０７が生成した復号画像を、符号化対象のピクチャおよびCU毎に予め定めた位置に記憶する。
　符号化パラメータ決定部１１０は、符号化パラメータの複数のセットのうち、１つのセットを選択する。符号化パラメータとは、前述した予測パラメータやこの予測パラメータに関連して生成される符号化の対象となるパラメータである。予測画像生成部１０１は、これらの符号化パラメータのセットの各々を用いてPUの予測画像Ｐを生成する。
　符号化パラメータ決定部１１０は、複数のセットの各々について情報量の大きさと符号化誤差を示すコスト値を算出する。コスト値は、例えば、符号量と二乗誤差に係数λを乗じた値との和である。符号量は、量子化誤差と符号化パラメータをエントロピー符号化して得られる符号化ストリームTeの情報量である。二乗誤差は、減算部１０２において算出された残差信号の残差値の二乗値についての画素間の総和である。係数λは、予め設定されたゼロよりも大きい実数である。符号化パラメータ決定部１１０は、算出したコスト値が最小となる符号化パラメータのセットを選択する。これにより、エントロピー符号化部１０４は、選択した符号化パラメータのセットを符号化ストリームTeとして外部に出力し、選択されなかった符号化パラメータのセットを出力しない。符号化パラメータ決定部１１０は決定した符号化パラメータを予測パラメータメモリ１０８に記憶する。
　予測パラメータ符号化部１１１は、符号化パラメータ決定部１１０から入力されたパラメータから、符号化するための形式を導出し、エントロピー符号化部１０４に出力する。符号化するための形式の導出とは、例えば動きベクトルと予測ベクトルから差分ベクトルを導出することである。また予測パラメータ符号化部１１１は、符号化パラメータ決定部１１０から入力されたパラメータから予測画像を生成するために必要なパラメータを導出し、予測画像生成部１０１に出力する。予測画像を生成するために必要なパラメータとは、例えばサブブロック単位の動きベクトルである。
　インター予測パラメータ符号化部１１２は、符号化パラメータ決定部１１０から入力された予測パラメータに基づいて、差分ベクトルのようなインター予測パラメータを導出する。インター予測パラメータ符号化部１１２は、予測画像生成部１０１に出力する予測画像の生成に必要なパラメータを導出する構成として、インター予測パラメータ復号部３０３（図６等、参照）がインター予測パラメータを導出する構成と一部同一の構成を含む。インター予測パラメータ符号化部１１２の構成については、後述する。
　イントラ予測パラメータ符号化部１１３は、符号化パラメータ決定部１１０から入力されたイントラ予測モードIntraPredModeから、符号化するための形式（例えばmpm_idx、rem_intra_luma_pred_mode等）を導出する。　（SAO処理）
　次にSAO（サンプル適応オフセット）部314について説明する。SAOはデブロッキングフィルタ後に適用するフィルタであり、リンギング歪や量子化歪を除去する効果がある。SAOはCTU単位の処理であり、画素値をいくつかのカテゴリに分類して、カテゴリ毎に画素単位にオフセットを加減算するフィルタである。SAOはエッジオフセット（EO)とバンドオフセット（BO)の２種類のオフセットタイプを持ち、CTU内画素値のカテゴリ分類方法は、このオフセットタイプによって決まる。EOは対象画素と隣接画素（参照画素）との大小関係に応じて画素値をカテゴリ分類する。BOは対象画素の画素値の大きさにより、画素値をカテゴリ分類する。EO、BOともにカテゴリ毎に定められたオフセットを復号画素値（SAO部314への入力画像の画素値）に加算する。SAO部314には、予測画像と予測誤差を加算した復号画像、あるいは、さらにデブロッキングフィルタを適用した復号画像が入力されるが、以降ではSAO部314への入力画像は全て「復号画像」、入力画像の画素値は「復号画素値」と呼ぶ。
　図10はSAO部314のブロック図である。SAO部314はカテゴリ設定部1001、オフセット情報格納部1002、オフセット加算部1003からなる。カテゴリ設定部1001はエントロピー復号部301で復号したオフセットタイプ（type）、クラス（class）、あるいはバンド位置（band_position）と復号画像recが入力される。カテゴリ設定部1001は、これらを用いてカテゴリを設定する。オフセットタイプが0の場合はSAOを行わない（オフセット加算しない）。オフセットタイプが1の場合はBO、2の場合はEOを実施する。
　図11のフローチャートを参照して、カテゴリ設定部1001の動作を説明する。カテゴリ設定部1001は、S1101でオフセットタイプtypeをチェックし、EOならばS1102へ、BOならばS1105へ進む。S1102～S1104はEOの処理、S1105～S1106はBOの処理である。カテゴリ設定部1001は、オフセットタイプtypeがEOであれば S1102でクラスを参照して、対象画素Xの隣接画素を参照画素a、bとして設定する。
　EOのクラス（class）による参照画素の設定方法を図７に示す。classは、参照画素を対象画素からみた方向に対応し、参照画素の選択に用いられる。class=0の場合、参照画素a、bに対象画素Xの左右の画素を設定し、class=1の場合、a、bに対象画素Xの上下の画素を設定し、class=2の場合、a、bに対象画素Xの左上、右下の画素を設定し、class=3の場合、a、bに対象画素Xの左下、右上の画素を設定する。
　次にカテゴリ設定部1001は、S1103で、対象画素Xと２つの参照画素a、bの画素値の差分sign(rec[X]-rec[a])、sign(rec[X]-rec[b])を用いてedgeIdxを導出する。
　　edgeIdx=sign(rec[X]-rec[a])+sign(rec[X]-rec[b])+2
　　sign(x) = 1　　(x>0)
　　　　　　= 0　　(x=0)
　　　　　　=-1　　(x<0)
ここで、rec[x]は画素xの復号画素値を表す。
次にカテゴリ設定部1001は、S1104でedgeIdxからカテゴリcatを算出する。
　　cat =(edgeIdx==2)?0:edgeIdx+1 　(edgeIdx<=2)
　　　　=edgeIdx　　　　　　　　　　(edgeIdx>2)
class=0の場合のカテゴリcatの示す対象画素値Xと参照画素a、bの大小関係を図12に示す。黒丸が対象画素X、Xの左側の白丸が参照画素a、Xの右側の白丸が参照画素bであり、縦方向は画素値の大小関係を表す。
　カテゴリ設定部1001は、オフセットタイプtypeがBOであれば S1105で、図１６に示すように0～2N-1の画素値をバンドに分割する。N=8の場合、画素値は0～255の範囲をとり、各バンドは8個の連続する画素値からなる。N=10の場合、画素値は0～1023の範囲をとり、各バンドは32個の連続する画素値からなる。
　カテゴリ設定部1001は、S1106で、カテゴリcatの0～3に、エントロピー復号部301で復号したバンド位置（band_position）が示すバンドから連続する4バンドをセットする。そして対象画素の画素値rec[X]が含まれるカテゴリが存在する場合、対象画素Xのカテゴリとする。
　オフセット情報格納部1002は、エントロピー復号部301で復号したオフセット（offset）を格納する。
　オフセット加算部1003は、カテゴリ設定部1001で導出したカテゴリcatを用いて、オフセット情報格納部1002からオフセットoffset[cat]を読み出す。復号画素値をrec[X]とすると、オフセット加算部1003の出力画素値recsao[X]は
　　recsao[X]=rec[X]+offset[cat]
である。
　（符号化装置におけるSAO）
　画像符号化装置におけるSAOの動作を説明するため、図６のSAO_E部115のブロック図を図１７に示す。SAO_E部115はSAO情報設定部1701とSAO部314からなる。SAO部314は図１０と同じであり、説明は省略する。SAO情報設定部1701はオフセット算出部1702とオフセット情報選択部1703からなる。
　ますオフセット情報算出部1702を説明する。オフセット情報算出部1702は、EOの各クラス（0～3）およびBOのオフセットを算出する。オフセットタイプがEOの場合、クラス毎に各画素のカテゴリ設定を行い、設定したカテゴリ毎のオフセットを算出する。具体的な動作を、図１８を用いて説明する。
　オフセット算出部1702は、S1801で、クラス（class）、count[class][cat]、SAD
[class][cat]を初期化する。ここでcount[class][cat]はCTU内の（class、cat）の組み合わせ毎の画素数をカウントする変数、SAD[class][cat]はCTU内の（class、cat）の組み合わせ毎の復号画素値と原画素との絶対差分和を格納する変数である。
　オフセット算出部1702は、S1802とS1803でEOのオフセットを算出する。S1702では、対象画素Xに対し、クラスが示す参照画素aとbをセットし、カテゴリcatを導出する。現在のクラスに対し、count[class][cat]を１インクリメントする。また現在のクラスにおいて、復号画素値と原画素との絶対差分をSAD[class][cat]に加算する。
　　SAD[class][cat]+=|rec(X)-org[X]|
CTU内の全画素に対し上記の処理を行う。
　オフセット算出部1702は、S1803でカテゴリ1～4に対し、下記の式を用いてオフセットoffset[class][cat]を算出し、クラスを１インクリメントする。
　　offset[class][cat]=SAD[class][cat]/count[class][cat]
なおカテゴリ0のオフセットは0にセットする。
　オフセット算出部1702は、S1804でclass=4（EOがすべて終了）であれば、S1805に進み、そうでなければS1802とS1803を繰り返す。
　オフセット算出部1702は、S1805とS1806でBOのオフセットを算出する。S1805で対象画素の復号画素値rec[X]の属するバンドiを求め、バンドiの差分和SAD[class][i]にrec[X]とorg[X]の差分を加算する。またバンドiのカウントを１インクリメントする。
　　i=Rec[X]>>5
　　SAD[class][i]+=(rec[X]-org[X])
　　count[class][i]++
　オフセット算出部1702は、S1806で32個のバンドi（i=0～31）に対し、各々オフセットを算出する。
　　offset[class][i]=SAD[class][i]/count[class][i]
　以上でEO（class=0～3）の各カテゴリ（cat=1～4）のオフセット、およびBO（class=4）の各バンド（i=0～31）のオフセットを各々算出した。
　オフセット情報選択部1703は、オフセット算出部1702で算出したオフセットを用いて、オフセットタイプ（EO/BO）と、EOの場合はクラス、BOの場合はバンド位置を選択する。図１９はオフセット情報選択部1703の動作を示すフローチャートである。
　オフセット情報選択部1703は、S1901で、クラスclass（0～3）と絶対差分和SAD[class]を初期化する。絶対差分和SAD[class]は、SAOを適用した（オフセットを加算した）画素値と原画素値の絶対差分和を格納する変数である。
　絶対差分和SAD[class]は、S1902で、クラスで示される参照画素a、bをセットし、CTUの各画素毎に上述の方法でカテゴリを導出し、各カテゴリに割り当てられたオフセットを用いて絶対差分和SADを算出する。
　SAD[class]+=|rec[X]+offset[class][cat]-org[X]|
なおカテゴリ0のオフセットは0にセットする。rec[X]+offset[class][cat]は（class、cat）の組み合わせ時のSAOの値であり、これと原画素値org[X]との絶対差分をクラス毎にSADに加算する。CTU内の全画素の処理が終了すれば、クラスを１インクリメントする。
　オフセット情報選択部1703は、S1903で、クラスが4に等しいか否かをチェックする。クラスが4に等しくなければ、4になるまでS1902の処理を行う。クラスが4に等しい場合、EOの全クラスの処理が終了したことになり、S1904に進む。
　オフセット情報選択部1703は、S1904で、SAD[i]（i=0～3）が最小となるiを求め、これをEOのクラスとする。
　　SADEO=min(SAD[i])、class=左記を満たすi
　オフセット情報選択部1703は、S1905で、CTUの各バンドに対し、SAOを適用した（オフセットを加算した）画素値と原画素値との絶対差分和を計算する。具体的には、対象画素Xのバンドiと、オフセット算出部1702で求めた各バンドのオフセットoffset[class][i]を用いて、4つの連続するバンドに属する画素のSAOを適用した画素値rec[X]+oftと原画素値org[X]の絶対差分和を計算する。ここで、
　　i=rec[X]>>5
　　oft =offset[class=4][j]　 (j<=i<=j+3)
　　　　=0　　　　　　　　　　(otherwise)
　　SAD[i]=|rec[X]+oft-org[X]|
とする。そしてCTUの全画素に対し上記処理を施した後、jを１インクリメントする。
　オフセット情報選択部1703は、S1906で、i<29であるか否かをチェックする。i<32であれば、処理を終了していないバンドがあるので、j=32になるまでS1905を繰り返す。i=32の場合、全バンドに対し処理が終了したので、S1907に進む。
　オフセット情報選択部1703は、S1907で、SAD[j]が最小となるj（j=0～31）を現CTUのBOのバンド位置（band_position）に設定する。
　　SADBO=min(SAD[j])、band_position=左記を満たすj
　オフセット情報選択部1703は、S1908で、SAOEOとSAOBOの大小関係を比較する。SAOBOが大きい場合、S1909に進み、現CTUのオフセットタイプ（type）をEOにセットする。そうでない場合、S1910に進み、現CTUのオフセットタイプ（type）をBOにセットする。
　以上がオフセット情報選択部1703で実施される処理である。
　SAO情報設定部1701で算出したオフセット情報（オフセット、オフセットタイプ、クラス、バンド位置）はSAO部314に入力される。SAO部314の動作は上述と同じであり、説明を省略する。
　（PO処理）
　上記で説明したSAO（特にEO）は、１次元（上下、左右、斜め）方向の画素値を用いたフィルタであったが、このSAOの前に２次元方向の画素値を用いたフィルタをかけることができる。このフィルタをピークSAO（peak SAO：PO）と呼ぶ。図２０にPOおよびSAOのブロック図を示す。PO部2001はエントロピー復号部301で復号したPOオフセット情報（Cmax、NF、オフセット等）と、復号画像を入力し、PO処理を行い、結果の画像をSAO部314に出力する。
　PO部2001は、POカテゴリ/POクラス設定部2002、オフセット情報格納部2003、POオフセット加算部2004からなる。POカテゴリ/POクラス設定部2002は、復号画像の画素値から画素毎に算出したPOカテゴリを用いてPOクラスを設定する。オフセット情報格納部2003は、エントロピー復号部301で復号したPOオフセット情報を格納する。POオフセット加算部2004は、POクラス、POカテゴリで指定されたオフセットを復号画像に加算し、結果をSAO部314に出力する。
　POカテゴリ/POクラス設定部2002の動作を図２１のフローチャートで説明する。POカテゴリ/POクラス設定部2002は、S2101で、対象画素の参照画素を設定する。図13に対象画素Xと参照画素c0～c3との位置関係を示す。POカテゴリ/POクラス設定部2002は、S2102で、CTU内の各画素Xに対し、下式により対象画素Xの参照画素ci（i=0～3）と対象画素Xの大小関係を調べる。
　　　　3
　　ML=Σlgr(rec(ci)-rec(X))
　　　 i=0
　　　　3
　　MS=Σsml(rec(ci)-rec(X))
　　　 i=0
　　M =max(ML、MS)
ここで
　　lgr(x)=(x>0)?1:0
　　sml(x)=(x<0)?1:0
である。
　POカテゴリ/POクラス設定部2002は、S2103でカテゴリpcatを設定する。
　　pcat=0　(M=3)
　　　　 1　(M=4)
　　　　 2　(otherwise)
　POカテゴリ/POクラス設定部2002は、S2104でPOクラスcidを算出する。
　　　　 3
　　cid=Σ|rec(ci)-rec(X)|/(M*(1<<NF)
　　　　i=0
ここでΣは、M= MLの場合はlgr(rec(ci)-rec(X))=1を満たすiについての和を計算し、M= MSの場合はsml(rec(ci)-rec(X))=1を満たすiについての和を計算する。NFはエントロピー復号部301で復号された正規化係数である。
　POカテゴリ/POクラス設定部2002は、S2105で、POクラスc_idを下記のように決定する。
　　c_id=cid　(cid<Cmax)
　　　　=Cmax　(otherwise)
　ここでCmaxはエントロピー復号部301で復号されたPOクラスの最大値であり、POクラス数が大きくなりすぎることを防ぐ。
　POオフセット加算部2004は、POカテゴリ/POクラス設定部2002で算出された、対象画素のPOカテゴリとPOクラスを用いて適用するオフセットを決定し、対象画素値rec[X]にオフセットを加算し、フィルタ処理された対象画素値recpo[X]を算出する。
　　recpo[X]=rec[X]+offset[c_id][pcat]
　（符号化装置におけるPO）
　　符号化装置においてPO処理を実行するPO_E部の動作を、図２２のブロック図を用いて説明する。PO_E部2201は、POカテゴリ、POクラス毎にオフセットを算出するPOオフセット算出部2202と、PO部2001からなる。PO部2001は上述と同じため、説明を省略する。PO_E部2201で算出したオフセット情報（Cmax、NF、オフセット）はエントロピー符号化部104に出力され、フィルタ処理された画像はSAO_E部115に出力される。
　POオフセット算出部2202の動作を図２３のフローチャートを用いて説明する。
　POオフセット算出部2202は、S2301で、各POクラスc_idとPOカテゴリpcatの組み合わせ毎に画素数をカウントする変数count[c_id][pcat]と、対象画素の復号画素値と原画素値の絶対差分和を格納するSAD[c_id][pcat]を初期化する。
　POオフセット算出部2202は、S2302で、対象画素の参照画素c0～c3を設定し、図２１と同様の方法でPOカテゴリを導出する。CTUの全画素に対し前記処理を行い、POカテゴリ毎に、対象画素Xの復号画素値rec[X]と原画素値org[X]の絶対差分の分布を求める。
　POオフセット算出部2202は、S2303で、S2302で求めた分布の最大値から対象画素Xの正規化係数NFとPOクラスの最大値Cmaxを導出する。例えば、分布の最大値をPmaxとすると、
　　Cmax=Pmax/2
　　NF=Ceil(log2(Pmax/Cmax))
あるいは分布の最頻値Pfreqを用いて
　　Cmax=min(Pmax/2,Pfreq)
としてもよい。
　POオフセット算出部2202は、S2304で、図２１のフローチャートで説明した方法で対象画素XのPOカテゴリ、POクラスを抽出し、各POカテゴリとPOクラスの絶対差分和SAD[c_id][pcat]に、対象画素Xの復号画素値と原画素値の絶対差分を加算する。
　POオフセット算出部2202は、S2305で、POカテゴリとPOクラス毎にオフセットを算出する。
　　offset[c_id][pcat]=SAD[c_id][pcat]/count[c_id][pcat]
　以上の処理により、SAOでは考慮できなかった２次元方向の画素値の変化を用いてフィルタ処理ができる。
　上記の説明はPOとSAOを共に使用する例であった。POは画像の２次元方向の画素値の変化を用い、SAOのオフセットタイプEOは１次元方向の画素値の変化を用いる違いはあるが、双方とも対象画素と参照画素との画素値の変化を用いる点で類似しており、POとSAOの組み合わせ方法を変更することで、さらに双方の特性を活かした処理が可能になる。　本発明の一つの実施形態では、POの参照画素を図１４に示す（a）水平・垂直方向と（b）斜め方向の２種類からCTU毎にフラグ（flag）を用いて選択する。この処理を実現するためのPO部2001のPOカテゴリ/POクラス設定部2002の動作を図２５のフローチャートを用いて説明する。
　図２５は、図２１のS2101をS25010～S25012に置き換えたもので、その他のステップには変更はない。POカテゴリ/POクラス設定部2002は、S25010で、エントロピー復号部301で復号したフラグ（flag）をチェックする。フラグが0の場合、S25011に進み、対象画素Xの参照画素ci（i=0～3）を図１４（a）に示す水平・垂直方向の画素にセットする。そうでない場合、S25012に進み、対象画素Xの参照画素ci（i=0～3）を図１４（b）に示す斜め方向の画素にセットする。
　符号化装置では、PO_E部2201のオフセット算出部2202の動作を示す図２３のフローチャートにおいて、選択可能な参照画素が水平・垂直方向と斜め方向の２種類に増えるので、各々の参照画素に対しS2301～S2305の処理を実行する。そして図１４の２種類の参照画素に対してS2304で求めた絶対差分和SAD[c=id][pcat]を比較し、小さい方の参照画素を採用する。そして絶対差分和SADが小さい方の参照画素位置は図１４の（a）か（b）かを示すフラグ、この参照画素を使用して算出したオフセット、Cmax、NFをエントロピー符号化部104に出力する。
　このように、フラグを用いてPOの参照画素位置を水平・垂直方向あるいは斜め方向のどちらかに設定することで、斜め方向の画素値の変化を考慮しつつ、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
　〔変形例１〕
　本発明の別の実施形態として、POの処理によってSAOのオフセットタイプEOの処理を変更する例を説明する。具体的にはPOでオフセットを加算した画素であるか、加算しなかった画素であるかに応じて、SAOのオフセットタイプEOの処理を変更する。上記のPOの構成では、POカテゴリが2の場合、オフセットを加算しない。つまり、対象画素と参照画素の２次元方向の画素値の変化をチェックした時にオフセットの加算が必要ないということである。しかし、上述のSAOのEOでは、対象画素と参照画素の１次元方向の画素値の変化をチェックし、さらにオフセットを加算することがある。しかしながら、POカテゴリが2以外の画素ではすでにPOでオフセット処理を実施しているので、少なくともSAOのEOの処理は実施しないことが適当である（画素のオフセットタイプがBOの場合は上述の通り実施する）。
　変形例１のPO部2001におけるPOカテゴリ/POクラス設定部2002の動作を、図２６を用いて説明する。図２６は、図２１のS2103の後にS26030～S26032を追加しており、その他のステップには変更はない。POカテゴリ/POクラス設定部2002は、S26030で、S2103において設定したPOカテゴリpcatを参照し、pcatが2か否かを判定する。pcatが2（PO部ではオフセットを加算しないカテゴリ）の場合、S26031に進み、対象画素Xのmaskを1にセットする。pcatが2でない（PO部ではオフセットを加算するカテゴリ）の場合、S26032に進み、対象画素Xのmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
　次にPOの後で行うSAOの処理を図２７のフローチャートを用いて説明する。図２７は、図１１のS1104の後にS27040～S27041を追加したもので、その他のステップは同じである。SAO部314のカテゴリ設定部1001は、S27040で、PO部2001でセットした対象画素Xのmaskをチェックし、1でない（PO部でオフセットを加算する）場合、S27041に進み、１次元SAOであるEOのカテゴリcatを、オフセットを加算しないカテゴリの0にセットする（EOを行わない）。
　以上の動作により、２次元オフセット加算フィルタであるPO時にオフセットを加算しなかった画素のみを１次元オフセット加算フィルタであるEOのオフセット加算の候補とすることで、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合に、適切にオフセットを加算することができ、かつ、POとEOという似た処理を二重に実施することを回避することができる。
　なお、変形例１に対しても、実施形態１で説明した参照画素位置の切替を適用することができる。この場合、図２６のS2101を、図２５のS25010～S25012に置き換えればよく、それ以外のステップは同じである。
　〔変形例２〕
　本発明の別の実施例として、POとSAOの実行順序を変更する例を説明する。図２８は復号装置側のブロック図、図２９は符号化装置側のブロック図であり、双方とも実施形態２と構成要素は同じであるが、POとSAOの実行順序が異なっている。変形例２では、SAOのオフセットタイプがEO、かつ、オフセットを加算した画素（画素のカテゴリcatが0以外の画素、つまり画素のカテゴリcatがオフセットを加算するカテゴリの画素）を、後続のPOのオフセットを加算する画素の候補とする。つまり、EOで１次元方向の画素値の変化を考慮した画素に対し、さらに２次元方向の画素値の変化を考慮した補正を行う。
　変形例２のSAO部314のカテゴリ設定部1001の動作を図３０のフローチャートで説明する。図３０は、図１１のS1104の後にS30000～S30002を追加し、また図１１のS1106の後にS30060を追加したものであり、それ以外のステップは同じである。
　SAO部314のカテゴリ設定部1001は、S30000で、S1104で設定したカテゴリcatが0か否かをチェックする。カテゴリcatが0（EOでオフセット加算しない）の場合、S30001に進み、対象画素のmaskを0にセットする。カテゴリcatが0でない（EOでオフセット加算する）の場合、S30002に進み、対象画素のmaskを1にセットする。カテゴリ設定部1001は、S30060で、対象画素のmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
　次にPO部1001のPOカテゴリ/POクラス設定部2002の動作を、図３１を用いて説明する。図３１は、図２１のS2103の後にS31030、S31031を追加したものであり、それ以外のステップは同じである。POカテゴリ/POクラス設定部2002は、S31030で、EOでオフセットを加算したかどうかを示すmaskをチェックする。maskが0（EOでオフセットを加算しない）の場合、S31031に進み、POカテゴリpcatをオフセットを加算しないカテゴリの0にセットする。これにより、EOでオフセットを加算しなかった画素は、POのオフセットを加算しない。
　なお、変形例１に対しても、実施形態２で説明した参照画素位置の切替を適用することができる。この場合、図３１のS2101を、図２５のS25010～S25012に置き換えればよく、それ以外のステップは同じである。
　〔実施形態２〕
　本願の実施形態２は、POの画素分類（POカテゴリ分類）を２つの１次元EOの組み合わせで実現する。２つのEOの組み合わせで実現することで、POとEOの両者を処理する場合に発生する冗長な処理を削除し、かつ、１次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。具体的には、図７に示す４つのクラスに対応する方向（水平方向、垂直方向、左上から右下方向、右上から左下方向）のうちの２つの方向のEOカテゴリを、EOカテゴリ1、EOカテゴリ2として導出し、この２つのEOカテゴリに基づいてPOカテゴリ分類を導出する。
　図２４（a）は、EOの２つのクラスのカテゴリ（EOカテゴリ1、EOカテゴリ2）を組み合わせた時のMの値を示す。図２４（a）を用いることでEOカテゴリ1、EOカテゴリ2から、POカテゴリを導出するための一時変数Mを導出することができる。
　　M=max(Σlgr(rec(X)-rec(ci)), Σsml(rec(X)-rec(ci)))
ここで、発生しないパターンのMは0にセットする。
　例えば、図２４（a）のEOカテゴリ１は図７のクラス0（参照画素は水平方向）の参照画素から得られるカテゴリ、EOカテゴリ２は図７のクラス2（参照画素は左上から右下方向）の参照画素から得られるカテゴリとする。例えばEOカテゴリ１が２、EOカテゴリ２が１の場合、Mは3と導出される。
　図２４（b）は（実施形態１の式で導出される）POカテゴリのMと２つのEOのカテゴリの組み合わせ（EOカテゴリ1、EOカテゴリ2）との関係を示した表である。例えばM=3は、２つのカテゴリが0と3、あるいは1と2に相当する。またM=4は、２つのカテゴリが1と1、あるいは4と4に相当する。M=0～2はPOではオフセット加算の対象とならない画素値の変化パターンであるが、１次元のEOとしてはオフセット加算の対象となる画素値の変化パターンなので、本実施形態でもオフセットの加算を行う。このように、CTU毎に方向（EOクラス）を２つ設定し、画素毎に２つの方向に対するカテゴリを求めることで、従来POとSAOのEO双方でカテゴリ分類が必要であった処理を、SAOのEOのカテゴリ分類だけで処理することができる。
　実施形態２のブロック図は、実施形態１の図１０のSAO部314、および図１７のSAO_E部115と同じであるが、カテゴリ設定部1001、オフセット加算部1003、オフセット情報選択部1703の動作が異なる。カテゴリ設定部1001、およびオフセット情報選択部1703の動作を図３４、図３５のフローチャートで説明する。
　図３４のカテゴリ設定部1001は、２つの方向（クラス）に対応する参照画素から２つのカテゴリを導出するためS1102～S1104の処理を２回繰り返す。その他のステップは、１つの方向（クラス）の参照画素から１つのカテゴリを導出する図１１と同じである。カテゴリ設定部1001は、S34040でS1102～S1104の処理の回数をカウントし、２回であれば処理を終了し、１回であればS1102に戻り処理を継続する。なお、２つのカテゴリ導出はループ処理で行う必要はなく、カテゴリ導出処理を２回実行する構成でもよい。
　オフセット加算部1003では、カテゴリ設定部1001で算出した２つのクラス（class1、class2）とそのカテゴリ（cat1、cat2）に対応する２つのオフセットをオフセット情報格納部から読み出し、対象画素の画素値Rec[X]に加算する。
　　recsao[X]=rec[X]+(offset[class1][cat1]+offset[class2][cat2])/2
　　　　　　　　　　　　　　　　　　　　　　　(cat1≠0かつcat2≠0)
　　　　　　　=rec[X]+offset[class1][cat1]　　(cat2=0)
　　　　　　　=rec[X]+offset[class2][cat2]　　(cat1=0)
上式は２つのオフセットの平均値を加算しているが、２つのオフセットの重み付き演算でもよい。ただし、最初に符号化されたクラスclass1の重みw1を、class2の重みw2より大きくする。
　　recsao[X]=rec[X]+w1*offset[cat1]+w2*offset[cat2] (cat1≠0かつcat2≠0)
ここでw1>=w2、w1+w2=1である。
　なお、カテゴリ設定部1001で用いる２つの方向（クラス）は、CTU単位で符号化
・復号してもよい。４つの方向（クラス）の中から２つの方向（クラス）を選択する場合には、２ビットのシンタックスが必要である。なお、選択可能な方向として２つの方向（クラス）が直交する場合のみ選択するという制限をかけてもよい。この場合、取り得る参照画素位置は水平・垂直方向と２つの斜め方向の２パターンに限定されるが、クラスを表現するビット数を１ビット削減することができる。
　以上で説明したように、本願の実施形態２は、POのカテゴリ分類相当の処理を２つの１次元EOのカテゴリ分類の組み合わせで実現する。２つのEOの組み合わせで実現することで、POカテゴリ分類とEOカテゴリ分類の両方を処理する場合に発生する冗長な処理を回避し、かつ、１次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
　〔実施形態３〕
　本願の実施形態３は、POを拡張して実施形態２の１次元EOの組み合わせを表現する。POを拡張して表現することで、POもEOも処理する場合に発生する冗長な処理を削除し、かつ、従来のPOでは表現できなかった１次元方向の画素値の変化に対応することができ、より効率的なフィルタ処理を実現できる。
　実施形態３のブロック図は、実施形態１の図２０のPO部2001、および図２２のPO_E部2201と同じであるが、POカテゴリ/POクラス設定部2002の動作が異なる。
ここでPOカテゴリpcatとEOカテゴリの対応関係を図３２に示す。図３２において、POのMが0～2の場合は、SAOのEOのカテゴリに従って処理を実施する。POのMが3の場合はPOを実施するが、オフセットはEOカテゴリに合わせて異なるオフセットを符号化装置側で算出し、POオフセット加算部2004で加算処理に使用する。POのMが4の場合はPOを実施するが、オフセットはEOカテゴリに合わせて、かつM=3とは異なるオフセットを符号化装置側で算出し、POオフセット加算部2004で加算処理に使用する。EOカテゴリが1と4、あるいは2と3のように特性が似通っている場合、オフセットは同じ値でもよい。
　また拡張したPOはSAOのEOの機能も含むので、POの後に処理するSAOは、図３７に示すようにBOの機能のみを実施してもよい。この構成では、図３７に示すように、まずPO部2001（あるいはPO_E部2201）が、上述のPOカテゴリ分類とオフセット加算処理を行い、SAO部314（あるいはSAO_E部115）がEOを除くBOのカテゴリ分類とオフセット加算処理を行う。SAOのオフセットタイプはBOだけなので、例えば図１１のカテゴリ設定部1001は、S1105とS1106の処理だけになる。図１８のオフセット算出部1702はS1801、S1805とS1806の処理だけになる。図１９のオフセット情報選択部1703はS1901とS1905～S1907の処理だけになる。従って、オフセット情報はオフセットとバンド位置（band_position）となる。またオフセットタイプはBOだけなので、オフセットタイプ（type）も符号化する必要はない。
　以上のように、本願の実施形態３は、実施形態２の１次元EOの組み合わせに相当するカテゴリ分類処理を、POを拡張して実現する。POを拡張して実現することで、POとEOを処理する場合に発生する冗長なカテゴリ分類処理を削除し、かつ、従来のPOで表現できなかった１次元方向の画素値の変化に対応することができ、より効率的なフィルタ処理を実現できる。
　〔実施形態４〕
　本願の実施形態４は、POとSAOのEOがリンギング除去効果、SAOのBOが擬似輪郭防止効果という異なる画質改善効果をもつことから、POを使用（POでオフセットを加算）した場合のSAOはBOを選択する。
　実施形態４のブロック図は、実施形態１の図２０のPO部2001（ただしPOカテゴリ/POクラス設定部2002は図２６の動作）、および図２２のPO_E部2201と同じであるが、図３８に示すようにS3802でCTUの全画素に対してオフセットを加算したか否かの判定を行う。具体的にはmask=1の場合、POでオフセットを加算していないため、CTUの全画素のmaskが1であれば、そのCTUはオフセットを加算していないことになる。。S3802でCTUの全画素のmaskが1の場合、後続のSAOは従来通りEOとBOから適切なタイプを選択し処理する。そうでない場合、後続のSAOはBOのみの処理となる。SAOがBOのみの場合、SAOのオフセットタイプの符号化は不要である。
　なお、符号化装置側で、POにおいてCTUに１つでもmaskが0の画素があった場合にオフセットタイプ（BO）を符号化する場合は、復号装置側では、図３８のS3802とS3804は不要となり、従来のPOとSAOを順番に処理する動作と全く同じ動作となる。
　〔実施形態５〕
　本願の実施形態５は、実施形態１で説明したPOの参照画素位置への斜め方向画素（図１４（b））の追加に関する。POとSAOのEOでは、どちらも適切な参照画素位置の算出が必要であるため、POとEOで参照画素位置の情報を共有することで冗長な算出処理を削減できる。
　POの後にSAOを処理する場合（図２０、図２２）、POで算出した参照画素位置を用いてEOの参照画素位置を決定する。POで用いた参照方向を示すフラグをPOflag、EOで用いる1ビットのクラス情報をEOflagとすると、EOのクラスclassは下記で算出できる。
　　class=(POflag<<1)+EOflag
この場合、EOのクラスを示すための情報を１ビット削減できる。
　SAOの後にPOを処理する場合（図２８、図２９）、SAOのEOで算出した参照画素位置を用いて、図１５（a）に示すようにPOの参照画素位置を決定する。つまりEOのクラスが0あるいは1の場合、POflag=0（参照画素位置は水平・垂直方向）であり、EOのクラスが2あるいは3の場合、POflag=1（参照画素位置は斜め方向）である。この場合、POの参照画素位置を示す情報を削除することができる。
　POとSAOのEOの参照画素位置が共通の場合、最初の処理で補正の効果がある参照画素位置を後続の処理にも用いることで、さらに精度の高い補正ができるという効果もある。
　〔変形例３〕
　上記はPOとSAOのEO参照画素位置を共通にした場合であったが、変形例３はPOとEOで異なる参照画素位置を用いる。
　POの後にSAOを処理する場合（図２０、図２２）、POで算出した参照画素位置を用いてEOの参照画素位置を決定する。POで用いた参照方向を示すフラグをPOflag、EOで用いる1ビットのクラス情報をEOflagとすると、EOのクラスclassは下記で算出できる。
　　class=((1-POflag)<<1)+EOflag
この場合、EOのクラスを示すための情報を１ビット削減できる。
　SAOの後にPOを処理する場合（図２８、図２９）、SAOのEOで算出した参照画素位置を用いて、図１５（b）に示すようにPOの参照画素位置を決定する。つまりEOのクラスが0あるいは1の場合、POflag=1（参照画素位置は斜め方向）であり、EOのクラスが2あるいは3の場合、POflag=0（参照画素位置は水平・垂直方向）である。この場合、POの参照画素位置を示す情報を削除することができる。
　POとSAOのEOの参照画素位置が異なる場合、最初の処理で補正できなかった方向の画素値の変化を用いて後続の処理ができるので、符号化効率を向上させる効果がある。
　〔実施形態６〕
　本発明の実施形態６は、POで通知するPOクラスの最大数Cmaxと、クラスの算出に使用する正規化係数NFの推定について説明する。Cmaxによって符号化すべきオフセット数を制限し、NFによって１つのオフセットで対応する画素値の変化量の粒度を変更できるため、CTU毎にCmaxとNFを通知することで最適なオフセットの調整ができる。しかしながらCTU毎にCmaxとNFを符号化すると、符号量が増大するという課題がある。そこでピクチャパラメータセットやスライスヘッダ等でCmaxとNFを符号化し、CTUレベルでは画素値の変化量に関係の深いパラメータを用いてCmaxとNFを変更することで符号量を削減しつつ、細かいオフセットの調整ができる。
　以下に、画素値の変化量に関係の深いパラメータとして量子化幅QPを用いた例を説明する。
　QPが大きい場合、復号画像にはリンギング歪や量子化歪が増加するため、オフセット数を増やし、画素値の細かな調整をする必要がある。そのためにはQPが大きい場合、Cmaxを大きく、NFを小さくして、オフセット数を増やし、１つのオフセットが対応する画素値の変化量の精度を細かくする。
　POカテゴリ/POクラス設定部2202の動作を図３９のフローチャートで説明する。図３９は図２１のS2103の後にS39030が追加されたものであり、それ以外のステップは同じである。POカテゴリ/POクラス設定部2002は、S39030でCmaxとNFをCTU単位で推定する。具体的には、POカテゴリ毎に対象画素Xと参照画素c0～c3の復号画素値の絶対差分の平均値DIFF_avgを算出し、図３３に示す(α、β)を用い、下式でCmaxを算出する。
　　Cmax=(Cmax_init*α)>>β
ここで、Cmax_initはピクチャパラメータセットやスライスヘッダで通知したCmaxの値である。図３３のavgは絶対差分の平均値DIFF_avgである。示す値であり、例えばQPがTHQより小さく、avgがTHD1～THD2の間にある時は、(α、β)=(3、1)で、Cmax=Cmax_init*3/2である。また、POカテゴリ毎に対象画素Xと参照画素c0～c3の復号画素値の絶対差分の最大値DIFF_maxを用いて、NFを下式で算出する。
　　NF=Ceil(log2(DIFF_max/DIFF_avg))
　なお、上記では画素値の変化量に関係の深いパラメータとして量子化幅QPを用いたが、CUのサイズとしてもよい。CUサイズが大きい領域はテクスチャが平坦であり、擬似輪郭が発生しやすい。画素値のわずかな変化が目立つので、QPが大きい時と同様の制御が可能である。
　また、上記ではCTU毎にCmaxとNFを推定したが、１つ前のCTU毎のCmaxとNF、あるいはピクチャパラメータセットやスライスヘッダで通知したCmax_initとNF_initとの差分値を符号化することで、符号量を削減することもできる。i番目のCTUのCmaxとNFをCmax[i]、NF[i]とすると、
　　dCmax=Cmax[i]-Cmax[i-1] (i>0)
　　dNF=NF[i]-NF[i-1]
であり、dCmax、dNFを符号化する。
　符号化装置側ではPOオフセット算出部2202において、図２３に示すS2303のCmax、NFの導出は上記で説明した図３９のS39030に置き換えられる。
　以上のように、実施形態６では、CTUレベルでは画素値の変化量に関係の深いパラメータを用いてCmaxとNFを変更する、あるいは１つ前のCmaxとNFとの差分値を符号化することで符号量を削減しつつ、細かいオフセットの調整ができる。
　なお、PO_E部2201は、CmaxとNFの初期値であるCmax_initとNF_initをエントロピー符号化部104に出力し、エントロピー符号化部104はこれらをピクチャパラメータセットやスライスヘッダを符号化する。PO部2001は、エントロピー復号部301で復号したCmax_initとNF_initをPOカテゴリ/POクラス設定部2002に渡す。
　〔実施形態７〕
　本願の実施形態７はオフセットのエントロピー符号化方法について説明する。本発明では、POとSAOで各々オフセットを符号化・復号する。しかしながら、１回目の処理（処理１）のオフセット加算により原画素値とフィルタ処理後の画素値の差分はフィルタ処理前の画素値との差分より小さくなっており、２回目の処理（処理２）のオフセットは１回目のオフセット以下でよい。従って、処理１のオフセットを用いて、処理２のオフセットの符号長を削減することができる。
　図５のエントロピー復号部301、あるいは図６のエントロピー符号化部104の中に、オフセット値をバイナリゼーションする（図示しない）バイナリゼーション部がある。ここで行われるバイナリゼーションの方法としてTR（Truncated Rice）符号を用いる例を説明する。処理１のオフセットの取り得る最大値Omax1は
　　Omax1=(1<<(min(N,10)-5))-1
で表される。ここでNは画素の階調で、8（0～255）の場合はOmax1=7であり、オフセットとして0～7の値を使用することができる。Omax1=7の場合のTR符号表を図３６（a）に示す。例えば処理１のオフセットの最大値が5の場合、処理２のオフセットの最大値は5以下であるので、処理２ではOmax2=5であり、この時のTR符号表を図３６（b）に示す。従って処理２でオフセットがOmax2と等しくなる時は、処理１で使用するTR符号表を用いて符号化する時よりも符号量を１ビット削減することができる。なお、実施形態７では、処理１がPOで処理２がSAOの場合も、その逆の場合も適用することができる。
　〔変形例４〕
　実施形態７では、処理２のオフセットの制限を処理１のオフセットの最大値以下とした。変形例４では、処理２のオフセットの制限を処理１のオフセットの最大値の1/2以下とする。図３６（c）に変形例４の場合の処理２におけるオフセットのTR符号表を示す。例えば処理１のオフセットの最大値が5の場合、処理２のオフセットの最大値は5の1/2以下であるので、処理２ではOmax2=2である。
　〔変形例５〕
　実施形態７では処理１と処理２のオフセットのバイナリゼーションにTR符号（RiceParam=0）を使用した。変形例５では処理２に比べオフセット値が大きくなる処理１において、入力値が大きくなっても符号長が長くなりにくいTR符号（RiceParam=1）を使用して、オフセットの符号量を削減する。図３６（d）にTR符号表（RiceParam=1）を示す。図３６（a）の符号表と図３６（d）の符号表を比較すると、入力が0の場合は図３６（a）の符号表の符号量割り当てが小さいが、3以上になると図３６（d）の符号表の符号量割り当てが小さい。従ってオフセットのバイナリゼーションにおいて、処理１では図３６（d）の符号表を用い、処理２では図３６（a）の符号表を用いることで、入力が大きい場合の符号量を削減することができる。
　以上のように、本願の実施形態７はオフセットのエントロピー符号化において、１回目の処理のオフセットより、２回目の処理のオフセットが小さくなることを利用して、オフセットの符号長を削減することができる。
　〔その他〕 
　なお、前述した実施形態における画像符号化装置１１、画像復号装置３１の一部、例えば、エントロピー復号部３０１、予測パラメータ復号部３０２、ループフィルタ３０５、予測画像生成部３０８、逆量子化・逆DCT部３１１、加算部３１２、予測画像生成部１０１、減算部１０２、DCT・量子化部１０３、エントロピー符号化部１０４、逆量子化・逆DCT部１０５、ループフィルタ１０７、符号化パラメータ決定部１１０、予測パラメータ符号化部１１１、および各部が含むブロックをコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、画像符号化装置１１、画像復号装置３１のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また前記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
　また、前述した実施形態における画像符号化装置１１、画像復号装置３１の一部、または全部を、LSI（Large Scale Integration）等の集積回路として実現しても良い。画像符号化装置１１、画像復号装置３１の各機能ブロックは個別にプロセッサ化しても良いし、一部、または全部を集積してプロセッサ化しても良い。また、集積回路化の手法はＬＳＩに限らず専用回路、または汎用プロセッサで実現しても良い。また、半導体技術の進歩によりＬＳＩに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いても良い。
　　（応用例）
　前述した画像符号化装置１１および画像復号装置３１は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像（CGおよびGUIを含む）であってもよい。
　まず、前述した画像符号化装置１１および画像復号装置３１を、動画像の送信および受信に利用できることを、図８を参照して説明する。
　図８の（ａ）は、画像符号化装置１１を搭載した送信装置PROD_Aの構成を示したブロック図である。図８の（ａ）に示すように、送信装置PROD_Aは、動画像を符号化することによって符号化データを得る符号化部PROD_A1と、符号化部PROD_A1が得た符号化データで搬送波を変調することによって変調信号を得る変調部PROD_A2と、変調部PROD_A2が得た変調信号を送信する送信部PROD_A3と、を備えている。前述した画像符号化装置１１は、この符号化部PROD_A1として利用される。
　送信装置PROD_Aは、符号化部PROD_A1に入力する動画像の供給源として、動画像を撮像するカメラPROD_A4、動画像を記録した記録媒体PROD_A5、動画像を外部から入力するための入力端子PROD_A6、および、画像を生成または加工する画像処理部Ａ７を更に備えていてもよい。図８の（ａ）においては、これら全てを送信装置PROD_Aが備えた構成を例示しているが、一部を省略しても構わない。
　なお、記録媒体PROD_A5は、符号化されていない動画像を記録したものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化された動画像を記録したものであってもよい。後者の場合、記録媒体PROD_A5と符号化部PROD_A1との間に、記録媒体PROD_A5から読み出した符号化データを記録用の符号化方式に従って復号する復号部（不図示）を介在させるとよい。
　図８の（ｂ）は、画像復号装置３１を搭載した受信装置PROD_Bの構成を示したブロック図である。図８の（ｂ）に示すように、受信装置PROD_Bは、変調信号を受信する受信部PROD_B1と、受信部PROD_B1が受信した変調信号を復調することによって符号化データを得る復調部PROD_B2と、復調部PROD_B2が得た符号化データを復号することによって動画像を得る復号部PROD_B3と、を備えている。前述した画像復号装置３１は、この復号部PROD_B3として利用される。
　受信装置PROD_Bは、復号部PROD_B3が出力する動画像の供給先として、動画像を表示するディスプレイPROD_B4、動画像を記録するための記録媒体PROD_B5、および、動画像を外部に出力するための出力端子PROD_B6を更に備えていてもよい。図８の（ｂ）においては、これら全てを受信装置PROD_Bが備えた構成を例示しているが、一部を省略しても構わない。
　なお、記録媒体PROD_B5は、符号化されていない動画像を記録するためのものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化されたものであってもよい。後者の場合、復号部PROD_B3と記録媒体PROD_B5との間に、復号部PROD_B3から取得した動画像を記録用の符号化方式に従って符号化する符号化部（不図示）を介在させるとよい。
　なお、変調信号を伝送する伝送媒体は、無線であってもよいし、有線であってもよい。また、変調信号を伝送する伝送態様は、放送（ここでは、送信先が予め特定されていない送信態様を指す）であってもよいし、通信（ここでは、送信先が予め特定されている送信態様を指す）であってもよい。すなわち、変調信号の伝送は、無線放送、有線放送、無線通信、および有線通信の何れによって実現してもよい。
　例えば、地上デジタル放送の放送局（放送設備など）／受信局（テレビジョン受像機など）は、変調信号を無線放送で送受信する送信装置PROD_A／受信装置PROD_Bの一例である。また、ケーブルテレビ放送の放送局（放送設備など）／受信局（テレビジョン受像機など）は、変調信号を有線放送で送受信する送信装置PROD_A／受信装置PROD_Bの一例である。
　また、インターネットを用いたVOD（Video On Demand）サービスや動画共有サービスなどのサーバ（ワークステーションなど）／クライアント（テレビジョン受像機、パーソナルコンピュータ、スマートフォンなど）は、変調信号を通信で送受信する送信装置PROD_A／受信装置PROD_Bの一例である（通常、ＬＡＮにおいては伝送媒体として無線または有線の何れかが用いられ、ＷＡＮにおいては伝送媒体として有線が用いられる）。ここで、パーソナルコンピュータには、デスクトップ型PC、ラップトップ型PC、およびタブレット型PCが含まれる。また、スマートフォンには、多機能携帯電話端末も含まれる。
　なお、動画共有サービスのクライアントは、サーバからダウンロードした符号化データを復号してディスプレイに表示する機能に加え、カメラで撮像した動画像を符号化してサーバにアップロードする機能を有している。すなわち、動画共有サービスのクライアントは、送信装置PROD_Aおよび受信装置PROD_Bの双方として機能する。
　次に、前述した画像符号化装置１１および画像復号装置３１を、動画像の記録および再生に利用できることを、図９を参照して説明する。
　図９の（ａ）は、前述した画像符号化装置１１を搭載した記録装置PROD_Cの構成を示したブロック図である。図９の（ａ）に示すように、記録装置PROD_Cは、動画像を符号化することによって符号化データを得る符号化部PROD_C1と、符号化部PROD_C1が得た符号化データを記録媒体PROD_Mに書き込む書込部PROD_C2と、を備えている。前述した画像符号化装置１１は、この符号化部PROD_C1として利用される。
　なお、記録媒体PROD_Mは、（１）HDD（Hard Disk Drive）やSSD(Solid State Drive)などのように、記録装置PROD_Cに内蔵されるタイプのものであってもよいし、（２）SDメモリカードやUSB（Universal Serial Bus）フラッシュメモリなどのように、記録装置PROD_Cに接続されるタイプのものであってもよいし、（３）DVD（Digital Versatile Disc）やBD（Blu-ray（登録商標）Disc）などのように、記録装置PROD_Cに内蔵されたドライブ装置（不図示）に装填されるものであってもよい。
　また、記録装置PROD_Cは、符号化部PROD_C1に入力する動画像の供給源として、動画像を撮像するカメラPROD_C3、動画像を外部から入力するための入力端子PROD_C4、動画像を受信するための受信部PROD_C5、および、画像を生成または加工する画像処理部PROD_C6を更に備えていてもよい。図９の（ａ）においては、これら全てを記録装置PROD_Cが備えた構成を例示しているが、一部を省略しても構わない。
　なお、受信部PROD_C5は、符号化されていない動画像を受信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを受信するものであってもよい。後者の場合、受信部PROD_C5と符号化部PROD_C1との間に、伝送用の符号化方式で符号化された符号化データを復号する伝送用復号部（不図示）を介在させるとよい。
　このような記録装置PROD_Cとしては、例えば、DVDレコーダ、BDレコーダ、HDD（Hard Disk Drive）レコーダなどが挙げられる（この場合、入力端子PROD_C4または受信部PROD_C5が動画像の主な供給源となる）。また、カムコーダ（この場合、カメラPROD_C3が動画像の主な供給源となる）、パーソナルコンピュータ（この場合、受信部PROD_C5または画像処理部Ｃ６が動画像の主な供給源となる）、スマートフォン（この場合、カメラPROD_C3または受信部PROD_C5が動画像の主な供給源となる）なども、このような記録装置PROD_Cの一例である。
　図９の（ｂ）は、前述した画像復号装置３１を搭載した再生装置PROD_Dの構成を示したブロック図である。図９の（ｂ）に示すように、再生装置PROD_Dは、記録媒体PROD_Mに書き込まれた符号化データを読み出す読出部PROD_D1と、読出部PROD_D1が読み出した符号化データを復号することによって動画像を得る復号部PROD_D2と、を備えている。前述した画像復号装置３１は、この復号部PROD_D2として利用される。
　なお、記録媒体PROD_Mは、（１）HDDやSSDなどのように、再生装置PROD_Dに内蔵されるタイプのものであってもよいし、（２）SDメモリカードやUSBフラッシュメモリなどのように、再生装置PROD_Dに接続されるタイプのものであってもよいし、（３）DVDやBDなどのように、再生装置PROD_Dに内蔵されたドライブ装置（不図示）に装填されるものであってもよい。
　また、再生装置PROD_Dは、復号部PROD_D2が出力する動画像の供給先として、動画像を表示するディスプレイPROD_D3、動画像を外部に出力するための出力端子PROD_D4、および、動画像を送信する送信部PROD_D5を更に備えていてもよい。図９の（ｂ）においては、これら全てを再生装置PROD_Dが備えた構成を例示しているが、一部を省略しても構わない。
　なお、送信部PROD_D5は、符号化されていない動画像を送信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを送信するものであってもよい。後者の場合、復号部PROD_D2と送信部PROD_D5との間に、動画像を伝送用の符号化方式で符号化する符号化部（不図示）を介在させるとよい。
　このような再生装置PROD_Dとしては、例えば、DVDプレイヤ、BDプレイヤ、HDDプレイヤなどが挙げられる（この場合、テレビジョン受像機等が接続される出力端子PROD_D4が動画像の主な供給先となる）。また、テレビジョン受像機（この場合、ディスプレイPROD_D3が動画像の主な供給先となる）、デジタルサイネージ（電子看板や電子掲示板等とも称され、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる）、デスクトップ型PC（この場合、出力端子PROD_D4または送信部PROD_D5が動画像の主な供給先となる）、ラップトップ型またはタブレット型PC（この場合、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる）、スマートフォン（この場合、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる）なども、このような再生装置PROD_Dの一例である。
　　（ハードウェア的実現およびソフトウェア的実現）
　また、前述した画像復号装置３１および画像符号化装置１１の各ブロックは、集積回路（ICチップ）上に形成された論理回路によってハードウェア的に実現してもよいし、CPU（Central Processing Unit）を用いてソフトウェア的に実現してもよい。
　後者の場合、前記各装置は、各機能を実現するプログラムの命令を実行するCPU、前記プログラムを格納したROM（Read Only Memory）、前記プログラムを展開するRAM（RandomAccess Memory）、前記プログラムおよび各種データを格納するメモリ等の記憶装置（記録媒体）などを備えている。そして、本発明の実施形態の目的は、前述した機能を実現するソフトウェアである前記各装置の制御プログラムのプログラムコード（実行形式プログラム、中間コードプログラム、ソースプログラム）をコンピュータで読み取り可能に記録した記録媒体を、前記各装置に供給し、そのコンピュータ（またはCPUやMPU）が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
　前記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやCD-ROM（Compact Disc Read-Only Memory）／MOディスク（Magneto-Optical disc）／MD（Mini Disc）／DVD（Digital Versatile Disc）／CD-R（CD Recordable）／ブルーレイディスク（Blu-ray（登録商標） Disc）等の光ディスクを含むディスク類、ICカード（メモリカードを含む）／光カード等のカード類、マスクROM／EPROM（Erasable Programmable Read-Only Memory）／EEPROM(登録商標)（Electrically Erasable and Programmable Read-Only Memory：登録商標）／フラッシュROM等の半導体メモリ類、またはPLD（Programmable logic device）やFPGA（Field Programmable Gate Array）等の論理回路類などを用いることができる。
　また、前記各装置を通信ネットワークと接続可能に構成し、前記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークは、プログラムコードを伝送可能であればよく、特に限定されない。例えば、インターネット、イントラネット、エキストラネット、LAN（Local Area Network）、ISDN（Integrated Services Digital Network）、VAN（Value-Added Network）、CATV（Community Antenna television/Cable Television）通信網、仮想専用網（Virtual Private Network）、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成または種類のものに限定されない。例えば、IEEE（Institute of Electrical and Electronic Engineers）1394、USB、電力線搬送、ケーブルＴＶ回線、電話線、ADSL（Asymmetric Digital Subscriber Line）回線等の有線でも、IrDA（Infrared Data Association）やリモコンのような赤外線、BlueTooth（登録商標）、IEEE802.11無線、HDR（High Data Rate）、NFC（Near Field Communication）、DLNA（登録商標）（Digital Living Network Alliance）、携帯電話網、衛星回線、地上デジタル放送網等の無線でも利用可能である。なお、本発明の実施形態は、前記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
　〔付記事項〕
　本発明の実施形態は前述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
　本願の実施形態は、残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、符号化データから復号された複数の第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替える。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
　本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、符号化データから復号された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は、第１の加算部で第１のオフセットを加算した画素に対しては第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットを加算する。これにより、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
　本願の実施形態は、前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、符号化データから復号された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第１のフィルタ装置の第１の加算部は、第２の加算部で第２のオフセットを加算した画素に対しては第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しない。これにより、１次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに２次元方向の画素値の変化を考慮したオフセットを加算することができる。
　本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、符号化データから復号された複数の第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は、第１の加算部で第１のオフセットを加算した画素に対しては第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行う。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
　本願の実施形態は、残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、第１のオフセットを算出する第１の算出部と、算出された複数の第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替える。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
　本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、第２のオフセットを算出する第２の算出部と、算出された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は、第１の加算部で第１のオフセットを加算した画素に対しては第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットを加算する。これにより、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
　本願の実施形態は、前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、第２のオフセットを算出する第２の算出部と、算出された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第１のフィルタ装置の第１の加算部は、第２の加算部で第２のオフセットを加算した画素に対しては第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しない。これにより、１次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに２次元方向の画素値の変化を考慮したオフセットを加算することができる。
　本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、第２のオフセットを算出する第２の算出部と、算出された複数の第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は、第１の加算部で第１のオフセットを加算した画素に対しては第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行う。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
　本願の実施形態は、２次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理を、２つの１次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理の組み合わせで表現する。２つの１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する画像フィルタは、対象画素に対し異なる１次元方向を示す２つのクラス、クラスの示す方向の画素値の変化パターンを示す２つのカテゴリ、および対象画素値の範囲を示すバンド位置を設定する設定部と、符号化データから復号されたオフセットの中から、前記カテゴリを参照して求めた２つのオフセットを前記対象画素値に加算する加算部とを備え、加算部は前記２つのオフセットの平均を対象画素に加算する。これにより、２つの１次元方向フィルタの組み合わせで表現することで、冗長な処理を削除し、かつ、１次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
　本願の実施形態は、１次元方向の画素値の変化を利用するフィルタ（第２のフィルタ）、および２次元方向の画素値の変化を利用するフィルタ（第１のフィルタ）の参照画素位置の情報を共有する。第１のフィルタの後で第２のフィルタを適用する場合、第１のフィルタで使用した参照画素位置を参照して第２のフィルタの参照画素位置を決定する。第２のフィルタの後で第１のフィルタを適用する場合、第２のフィルタで使用した参照画素位置を参照して第１のフィルタの参照画素位置を決定する。これにより、参照画素位置の導出処理を共通化できるため、冗長な処理を削減することができる。
　本願の実施形態は、ピクチャパラメータセット、またはスライスヘッダにおいて、第１のフィルタのクラスの最大数と、正規化係数を符号化し、CTUレベルでは画素値の変化量に関係の深いパラメータを用いてPOクラスの最大数と、正規化係数を推定する。画素値の変化量に関係の深いパラメータとして量子化幅QPやCUサイズを使用する。これにより、CTU毎に第１のフィルタのクラスの最大数と、正規化係数を符号化しなくてよいので、符号量を削減しつつ、細かいオフセットの調整ができる。
　本願の実施形態は、値が小さい２回目のフィルタ処理のオフセットを１回目のフィルタ処理のオフセットの最大値以下とする。また、１回目の処理のオフセットのバイナリゼーションは大きな入力値で符号量が大きくなりにくい符号化方法を選択し、２回目の処理のオフセットのバイナリゼーションは小さな入力値で符号量が小さくなりやすい符号化方法を選択する。これにより、２回目の処理で使用するオフセットの符号量を、１回目の処理で使用する符号量よりも削減することができる。
　（関連出願の相互参照）
　本出願は、２０１６年１２月１日に出願された日本国特許出願：特願２０１６－２３４０１４に対して優先権の利益を主張するものであり、それを参照することにより、その内容の全てが本書に含まれる。
　本発明の実施形態は、画像データが符号化された符号化データを復号する画像復号装置、および、画像データが符号化された符号化データを生成する画像符号化装置に好適に適用することができる。また、画像符号化装置によって生成され、画像復号装置によって参照される符号化データのデータ構造に好適に適用することができる。
１１　画像符号化装置
３１　画像復号装置
３１４　SAO部
１１５　SAO_E部
２００１　PO部
２２０１　PO_E部

Claims (8)

  1. 　残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、
    　対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、
    　符号化データから復号された複数の第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、
    　前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、
    　前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替えることを特徴とする第１の画像フィルタ装置を備える画像フィルタ装置。
  2. 　請求項１において、
    　前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    　第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    　符号化データから復号された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    　第２の加算部は、第１の加算部で第１のオフセットを加算した画素に対しては第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットの加算することを特徴とする画像フィルタ装置。
  3. 　請求項１において、
    　前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    　第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    　符号化データから復号された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    　第１のフィルタ装置の第１の加算部は、第２の加算部で第２のオフセットを加算した画素に対しては第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しないことを特徴とする画像フィルタ装置。
  4. 　請求項１において、
    　前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    　第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、
    　符号化データから復号された複数の第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    　第２の加算部は、第１の加算部で第１のオフセットを加算した画素に対しては第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。
  5. 　残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、
    　対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、
    　第１のオフセットを算出する第１の算出部と、
    　算出された複数の第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、
    　前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、
    　前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替えることを特徴とする第１の画像フィルタ装置を備える画像フィルタ装置。
  6. 　請求項５において、
    　前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    　第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    　第２のオフセットを算出する第２の算出部と、
    　算出された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    　第２の加算部は、第１の加算部で第１のオフセットを加算した画素に対しては第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットの加算することを特徴とする画像フィルタ装置。
  7. 　請求項５において、
    　前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    　第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    　第２のオフセットを算出する第２の算出部と、
    　算出された複数の第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    　第１のフィルタ装置の第１の加算部は、第２の加算部で第２のオフセットを加算した画素に対しては第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しないことを特徴とする画像フィルタ装置。
  8. 　請求項５において、
    　前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    　第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、
    　第２のオフセットを算出する第２の算出部と、
    　算出された複数の第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    　第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。
PCT/JP2017/041624 2016-12-01 2017-11-20 画像フィルタ装置 WO2018101100A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016-234014 2016-12-01
JP2016234014A JP2020025150A (ja) 2016-12-01 2016-12-01 画像フィルタ装置

Publications (1)

Publication Number Publication Date
WO2018101100A1 true WO2018101100A1 (ja) 2018-06-07

Family

ID=62242478

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/041624 WO2018101100A1 (ja) 2016-12-01 2017-11-20 画像フィルタ装置

Country Status (2)

Country Link
JP (1) JP2020025150A (ja)
WO (1) WO2018101100A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011157084A1 (en) * 2010-06-15 2011-12-22 Mediatek Inc. Apparatus and method of adaptive offset restoration for video coding

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011157084A1 (en) * 2010-06-15 2011-12-22 Mediatek Inc. Apparatus and method of adaptive offset restoration for video coding

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
CHIH-MING FU ET AL.: "Sample Adaptive Offset in the HEVC Standard", IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY, vol. 22, no. 12, December 2012 (2012-12-01), pages 1755 - 1764, XP011487153, DOI: doi:10.1109/TCSVT.2012.2221529 *
CHIH-MING FU ET AL.: "TE10 Subtest 3: Quadtree-based Adaptive Offset, Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG 16 WP3", JCTVC-C147, October 2010 (2010-10-01), Guangzhou, CN, pages 1 - 6, XP030046763 *
MARTA KARCZEWICZ ET AL.: "Peak Sample Adaptive Offset, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3", J VET-D0133_R1, vol. 10, 2016, Chengdu, CN, pages 1 - 3, XP030150390 *
YU-WEN HUANG ET AL.: "In-Loop Adaptive Restoration, Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG 16 WP3", JCTVC-B077, July 2010 (2010-07-01), Geneva, CH, pages 1 - 11, XP030007657 *

Also Published As

Publication number Publication date
JP2020025150A (ja) 2020-02-13

Similar Documents

Publication Publication Date Title
JP7223886B2 (ja) 画像復号方法
JP7421586B2 (ja) 復号装置および符号化装置
JP7260472B2 (ja) 画像フィルタ装置
WO2018116925A1 (ja) イントラ予測画像生成装置、画像復号装置、および画像符号化装置
WO2018116802A1 (ja) 画像復号装置、画像符号化装置、及び画像予測装置
WO2018221368A1 (ja) 動画像復号装置、及び動画像符号化装置
WO2018199001A1 (ja) 画像復号装置及び画像符号化装置
WO2018037853A1 (ja) 画像復号装置及び画像符号化装置
WO2018037896A1 (ja) 画像復号装置、画像符号化装置、画像復号方法、および画像符号化方法
WO2018110203A1 (ja) 動画像復号装置、および動画像符号化装置
JP2021010046A (ja) 画像符号化装置及び画像復号装置
JP2021005741A (ja) 画像符号化装置及び画像復号装置
JP7213689B2 (ja) 画像復号装置及び画像符号化装置
WO2019221072A1 (ja) 画像符号化装置、符号化ストリーム抽出装置及び画像復号装置
WO2019182159A1 (ja) 画像フィルタ装置、画像復号装置、及び画像符号化装置
WO2018199002A1 (ja) 動画像符号化装置及び動画像復号装置
WO2018216688A1 (ja) 動画像符号化装置及び動画像復号装置、フィルタ装置
JP7241153B2 (ja) 画像復号装置
WO2018159526A1 (ja) 動画像符号化装置及び動画像復号装置
WO2019230904A1 (ja) 画像復号装置、および画像符号化装置
WO2019159820A1 (ja) 動画像符号化装置及び動画像復号装置
JP7073186B2 (ja) 画像フィルタ装置
WO2018061550A1 (ja) 画像復号装置及び画像符号化装置
WO2018143289A1 (ja) 画像符号化装置及び画像復号装置
WO2018173862A1 (ja) 画像復号装置及び画像符号化装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17876122

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17876122

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP