WO2012077532A1 - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
WO2012077532A1
WO2012077532A1 PCT/JP2011/077509 JP2011077509W WO2012077532A1 WO 2012077532 A1 WO2012077532 A1 WO 2012077532A1 JP 2011077509 W JP2011077509 W JP 2011077509W WO 2012077532 A1 WO2012077532 A1 WO 2012077532A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
image
unit
pixels
prediction
Prior art date
Application number
PCT/JP2011/077509
Other languages
English (en)
French (fr)
Inventor
健治 近藤
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to CN2011800580637A priority Critical patent/CN103238331A/zh
Priority to US13/877,393 priority patent/US20130195187A1/en
Publication of WO2012077532A1 publication Critical patent/WO2012077532A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/43—Hardware specially adapted for motion estimation or compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/523—Motion estimation or motion compensation with sub-pixel accuracy
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Definitions

  • the present invention relates to an image processing device, an image processing method, and a program, and in particular, when performing fractional motion compensation processing during inter prediction, reduces processing amount and delay amount while suppressing deterioration in inter prediction accuracy.
  • the present invention relates to an image processing apparatus, an image processing method, and a program that can be used.
  • H. 264 / MPEG Moving Picture Experts Group
  • AVC Part 10 Advanced Video Coding
  • inter prediction that focuses on the correlation between frames or fields is performed.
  • motion compensation processing is performed using a part of an already stored referenceable image, and a predicted image is generated.
  • a pixel at a virtual fractional position called Sub pel is set between adjacent pixels of a reference image, and the Sub pel is generated (hereinafter referred to as interpolation). ) Is additionally performed (see, for example, Patent Document 1). That is, in the motion compensation process with fractional accuracy, the minimum resolution of the motion vector is a fractional number of pixels, and therefore interpolation is performed to generate a pixel at a fractional position.
  • FIR Finite Impulse ⁇ ⁇ ⁇ ⁇ ⁇ Response Filter
  • IF Interpolation filter
  • a 6-tap FIR filter is used as an interpolation filter.
  • the interpolation filter has a non-separable 2D structure and a separate 2D structure.
  • each Sub-pel is generated by performing one operation on the pixels at the integer position of 6 ⁇ 6 pixels for each Sub-pel.
  • Sub pel is generated by one operation, so the delay amount is small, but the processing amount is large because it is necessary to perform the operation of the square of the number of taps.
  • Sub pel ⁇ ⁇ b whose only horizontal position is a 1/2 pixel position is an integer represented by a hatched square with the same horizontal position as Sub pel b. It is generated by calculation using 6 pixels at the position.
  • Sub pel h whose vertical position is only 1/2 pixel position, uses 6 pixels at integer positions represented by squares with diagonal lines at the same vertical position as Sub pel h. It is generated by the operation.
  • Sub pel j where both the horizontal and vertical positions are 1/2 pixel positions, is a 6-pixel unit in which 6 ⁇ 6 pixels at integer positions represented by hatched squares are aligned horizontally.
  • the computation is performed by performing computation using six pixels whose horizontal positions are the same as Sub pel j obtained as a result of the computation.
  • the pixels a, c to g, i, and k to o at the 1/4 pixel position are generated using the pixels b, h, j on both sides or the pixels at integer positions represented by hatched squares. Is done.
  • a square in which no alphabet is described represents a pixel at an integer position
  • a square in which an alphabet is described represents a sub-pel of the alphabet. This also applies to FIG. 3 described later.
  • pixels at integer positions where Sub pel e, g, j, m, o are arranged obliquely are used.
  • a method of generating by one operation is being studied.
  • Sub pel e and Sub pel o are generated by a single calculation using six pixels represented by a square with rough polka dots.
  • Sub pel g and Sub pel m are generated by one calculation using six pixels represented by a square with fine polka dots.
  • Sub pel j is generated by a single calculation using both the six pixels represented by the square with the rough polka dots and the six pixels represented by the square with the fine polka dots.
  • the interpolation of Sub pel j has 6 pixels represented by squares with rough polka dots and 6 squares with fine polka dots arranged in two diagonal directions orthogonal to each other. Since pixels are used, the characteristics of Sub pel j are good in the oblique direction. However, with respect to the horizontal direction and the vertical direction, the characteristics of Sub pel j deteriorate, and as a result, the accuracy of inter prediction deteriorates.
  • the present invention has been made in view of such a situation, and is capable of reducing the processing amount and the delay amount while suppressing deterioration of the accuracy of inter prediction.
  • An image processing apparatus includes a pixel reading unit that reads a predetermined pixel from a reference image in inter prediction, and a fractional pixel of the reference image using the predetermined pixel read by the pixel reading unit.
  • the image processing apparatus reads out the predetermined pixel including pixels arranged in two oblique directions orthogonal to the reference image.
  • the image processing method and program according to one aspect of the present invention correspond to the image processing apparatus according to one aspect of the present invention.
  • a predetermined pixel is read from a reference image in inter prediction, and a pixel at a fractional pixel position of the reference image is predicted in the inter prediction using the read predetermined pixel. It is calculated as a pixel. Note that when the positions of the pixels of the predicted image in the horizontal direction and the vertical direction on the reference image are fractional pixel positions that are not 1/2 pixel positions, the predetermined pixel is two orthogonal pixels of the reference image. Includes pixels lined up diagonally.
  • the present invention it is possible to reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of inter prediction.
  • FIG. 5 is a first flowchart for explaining an encoding process by the encoding apparatus of FIG. 4.
  • FIG. FIG. 5 is a second flowchart for explaining an encoding process by the encoding apparatus of FIG. 4.
  • FIG. It is a flowchart explaining the detail of the inter prediction process.
  • It is a block diagram which shows the structural example of the decoding apparatus as an image processing apparatus to which this invention is applied. It is a flowchart explaining the decoding process by the decoding apparatus of FIG.
  • It is a block diagram which shows the structural example of one embodiment of a computer.
  • It is a block diagram which shows the main structural examples of a television receiver.
  • It is a block diagram which shows the main structural examples of a mobile telephone.
  • It is a block diagram which shows the main structural examples of a hard disk recorder.
  • It is a block diagram which shows the main structural examples of a camera.
  • FIG. 4 is a block diagram showing a configuration example of an embodiment of an encoding apparatus as an image processing apparatus to which the present invention is applied.
  • the encoding apparatus 10 in FIG. Compress / encode with 264 / AVC format.
  • the A / D conversion unit 11 of the encoding device 10 performs A / D conversion on an image in frame units input as an input signal, and outputs and stores the image in the screen rearrangement buffer 12.
  • the screen rearrangement buffer 12 rearranges the stored frame-by-frame images in the order for encoding according to the GOP (Group of Picture) structure, the arithmetic unit 13, the intra prediction unit 23, and The result is output to the motion prediction unit 25.
  • GOP Group of Picture
  • the calculation unit 13 functions as a difference calculation unit, and calculates the difference between the predicted image supplied from the selection unit 26 and the encoding target image output from the screen rearrangement buffer 12. Specifically, the calculation unit 13 subtracts the predicted image supplied from the selection unit 26 from the encoding target image output from the screen rearrangement buffer 12. The calculation unit 13 outputs an image obtained as a result of the subtraction to the orthogonal transformation unit 14 as residual information. When the predicted image is not supplied from the selection unit 26, the calculation unit 13 outputs the image read from the screen rearrangement buffer 12 to the orthogonal transform unit 14 as residual information as it is.
  • the orthogonal transform unit 14 performs orthogonal transform such as discrete cosine transform and Karhunen-Loeve transform on the residual information from the operation unit 13 and supplies the resulting coefficient to the quantization unit 15.
  • the quantization unit 15 quantizes the coefficient supplied from the orthogonal transform unit 14.
  • the quantized coefficient is input to the lossless encoding unit 16.
  • the lossless encoding unit 16 acquires information indicating the optimal intra prediction mode (hereinafter referred to as intra prediction mode information) from the intra prediction unit 23, information indicating the optimal inter prediction mode (hereinafter referred to as inter prediction mode information), motion A vector or the like is acquired from the inter prediction unit 24.
  • intra prediction mode information information indicating the optimal intra prediction mode
  • inter prediction mode information information indicating the optimal inter prediction mode
  • motion A vector or the like is acquired from the inter prediction unit 24.
  • the lossless encoding unit 16 performs variable length encoding (for example, CAVLC (Context-Adaptive Variable Length Coding)), arithmetic encoding (for example, CABAC) on the quantized coefficients supplied from the quantization unit 15. (Context-Adaptive
  • the lossless encoding unit 16 losslessly encodes intra prediction mode information or inter prediction mode information, a motion vector, and the like, and uses the resulting information as header information added to the compressed image.
  • the lossless encoding unit 16 supplies the compressed image to which the header information obtained as a result of the lossless encoding is added to the accumulation buffer 17 as image compression information, and accumulates it.
  • the accumulation buffer 17 temporarily stores the image compression information supplied from the lossless encoding unit 16 and outputs it to, for example, a recording device or a transmission path (not shown) at the subsequent stage.
  • the quantized coefficient output from the quantization unit 15 is also input to the inverse quantization unit 18, subjected to inverse quantization, and then supplied to the inverse orthogonal transform unit 19.
  • the inverse orthogonal transform unit 19 performs inverse orthogonal transform such as inverse discrete cosine transform and inverse Karhunen-Loeve transform on the coefficients supplied from the inverse quantization unit 18, and adds the residual information obtained as a result to the adder 20. To supply.
  • inverse orthogonal transform such as inverse discrete cosine transform and inverse Karhunen-Loeve transform
  • the adder unit 20 functions as an addition operation unit, adds the residual information as a decoding target image supplied from the inverse orthogonal transform unit 19 and the predicted image supplied from the selection unit 26, and decodes locally. Get the image.
  • the addition part 20 makes the residual information supplied from the inverse orthogonal transformation part 19 the image decoded locally.
  • the adding unit 20 supplies the locally decoded image to the deblocking filter 21 and also supplies the image to the intra prediction unit 23 as a reference image.
  • the deblocking filter 21 removes block distortion by filtering the locally decoded image supplied from the adding unit 20.
  • the deblocking filter 21 supplies the image obtained as a result to the frame memory 22 and accumulates it.
  • the image stored in the frame memory 22 is output to the inter prediction unit 24 and the motion prediction unit 25 as a reference image.
  • the intra prediction unit 23 performs intra prediction of all candidate intra prediction modes based on the image read from the screen rearrangement buffer 12 and the reference image supplied from the addition unit 20, and obtains the predicted image. Generate.
  • the intra prediction unit 23 calculates cost function values (details will be described later) for all candidate intra prediction modes. Then, the intra prediction unit 23 determines the intra prediction mode that minimizes the cost function value as the optimal intra prediction mode. The intra prediction unit 23 supplies the prediction image generated in the optimal intra prediction mode and the corresponding cost function value to the selection unit 26. The intra prediction unit 23 supplies the intra prediction mode information to the lossless encoding unit 16 when the selection unit 26 is notified of selection of a predicted image generated in the optimal intra prediction mode.
  • the cost function value is also called RD (Rate Distortion) cost. It is calculated based on a technique of either High Complexity mode or Low Complexity mode as defined by JM (Joint Model) which is reference software in the H.264 / AVC format.
  • D is the difference (distortion) between the original image and the decoded image
  • R is the amount of generated code including up to the coefficient of orthogonal transform
  • ⁇ is the Lagrange multiplier given as a function of the quantization parameter QP.
  • D is the difference (distortion) between the original image and the decoded image
  • Header_Bit is the header bit for the prediction mode
  • QPtoQuant is a function given as a function of the quantization parameter QP.
  • the High Complexity mode is employed as a cost function value calculation method.
  • the inter prediction unit 24 reads the reference image from the frame memory 22 based on the inter prediction mode information and the motion vector supplied from the motion prediction unit 25.
  • the inter prediction unit 24 performs inter prediction processing based on the motion vector and the reference image read from the frame memory 22. Specifically, the inter prediction unit 24 performs fractional-precision motion compensation processing by interpolating the reference image based on the motion vector.
  • the inter prediction unit 24 supplies the prediction image generated as a result and the cost function value supplied from the motion prediction unit 25 to the selection unit 26.
  • the inter prediction unit 24 outputs inter prediction mode information, a corresponding motion vector, and the like to the lossless encoding unit 16.
  • the motion prediction unit 25 performs motion prediction processing for all candidate inter prediction modes based on the image supplied from the screen rearrangement buffer 12 and the reference image supplied from the frame memory 22, and has fractional accuracy. Generate motion vectors. Specifically, the motion prediction unit 25 performs interpolation on the reference image in the same manner as the inter prediction unit 24 for each inter prediction mode. Then, the motion prediction unit 25 performs matching between the interpolated reference image and the image supplied from the screen rearrangement buffer 12 for each inter prediction mode, and generates a fractional precision motion vector. In the present embodiment, it is assumed that Sub-pels of 1/2 pixel position and 1/4 pixel position are generated by interpolation, and the accuracy of the motion vector is 1/4 pixel accuracy.
  • the motion prediction unit 25 calculates cost function values for all candidate inter prediction modes, and determines the inter prediction mode that minimizes the cost function value as the optimal inter prediction mode. Then, the motion prediction unit 25 supplies the inter prediction mode information, the corresponding motion vector, and the cost function value to the inter prediction unit 24.
  • the inter prediction mode is information indicating the size, prediction direction, and reference index of a block to be subjected to inter prediction.
  • the size of the target block for inter prediction is 4 ⁇ 4 pixels, 8 ⁇ 8 pixels, 16 ⁇ 16 pixels, 32 ⁇ 32 pixels, 64 ⁇ 64 pixels, 4 ⁇ 8 pixels, 8 ⁇ 4
  • There are rectangular sizes such as pixels, 8 ⁇ 16 pixels, 16 ⁇ 8 pixels, 16 ⁇ 32 pixels, 32 ⁇ 16 pixels, 32 ⁇ 64 pixels, and 64 ⁇ 32 pixels.
  • forward prediction using a reference image whose display time is earlier than the image targeted for inter prediction (L0 prediction) and a reference image whose display time is later than the image targeted for inter prediction are used.
  • the reference index is a number for specifying a reference image. For example, the reference index of an image closer to an image to be subjected to inter prediction has a smaller number.
  • the selection unit 26 determines one of the optimal intra prediction mode and the optimal inter prediction mode as the optimal prediction mode based on the cost function values supplied from the intra prediction unit 23 and the inter prediction unit 24. Then, the selection unit 26 supplies the prediction image in the optimal prediction mode to the calculation unit 13 and the addition unit 20. In addition, the selection unit 26 notifies the intra prediction unit 23 or the inter prediction unit 24 of selection of the prediction image in the optimal prediction mode.
  • FIG. 5 is a block diagram illustrating a configuration example of the inter prediction unit 24 in FIG.
  • FIG. 5 for convenience of explanation, only blocks that perform inter prediction processing of the inter prediction unit 24 are illustrated, and blocks that output cost function values, inter prediction mode information, motion vectors, and the like are omitted.
  • the inter prediction unit 24 includes a reference image reading unit 41, an FIR filter 42, and a filter coefficient memory 43.
  • the reference image reading unit 41 of the inter prediction unit 24 is based on the reference index and the prediction direction in the inter prediction mode information supplied from the motion prediction unit 25 of FIG. Identify the reference image. Based on the block size and the integer value of the motion vector in the inter prediction mode information, the reference image reading unit 41 extracts a reference image pixel (hereinafter referred to as a reference pixel) used for generating a predicted image from the frame memory 22. Read and hold temporarily.
  • a reference image pixel hereinafter referred to as a reference pixel
  • the reference image reading unit 41 functions as a pixel reading unit. For each pixel of the predicted image (hereinafter referred to as a predicted pixel), the reference image reading unit 41 reads a reference pixel that is used to generate the predicted pixel among the temporarily stored reference pixels. The reference image reading unit 41 supplies the read reference pixels to the FIR filter 42.
  • the FIR filter 42 functions as a calculation unit, and performs calculation using the reference pixel supplied from the reference image reading unit 41 and the filter coefficient supplied from the filter coefficient memory 43. Specifically, the FIR filter 42 performs an operation of multiplying each reference pixel by a filter coefficient for the reference pixel and adding the multiplication value and the offset value obtained as a result.
  • the FIR filter 42 supplies one pixel obtained as a result of calculation as a predicted pixel to the selection unit 26 (FIG. 4) according to the position of the predicted pixel on the reference image, or is obtained as a result of a plurality of calculations. A predetermined calculation is performed on a plurality of pixels, and one pixel obtained as a result is supplied to the selection unit 26 as a predicted pixel.
  • the filter coefficient memory 43 stores a filter coefficient for each reference pixel in association with the fractional value of the motion vector.
  • the filter coefficient memory 43 supplies the FIR filter 42 with the filter coefficient for each reference pixel stored in association with the fractional value based on the fractional value of the motion vector supplied from the motion prediction unit 25 in FIG. .
  • [Description of reference pixels] 6 to 20 are diagrams for describing examples of reference pixels used for generating a predicted pixel.
  • a square with an alphabetic character represents Sub Pel
  • a square without an alphabetic character represents a reference pixel
  • a square with a polka dot represents a reference pixel used for generating a predicted pixel.
  • a solid circle circles a reference pixel used for generating a predicted pixel
  • a dotted circle circle represents a reference pixel represented by a square surrounded by the circle without an alphabetic character. This indicates that the pixel is a reference pixel that is used to generate a predicted pixel by method 3.
  • FIG. 6 is a diagram illustrating an example of reference pixels used for generating a prediction pixel in which the vertical position is an integer position and the horizontal position is a fractional position.
  • the predicted pixel is Sub pel a, b, c where the vertical position is an integer position and the horizontal position is a fractional position, it is surrounded by a circle inside the solid line
  • Eight reference pixels represented by squares with rough polka dots are used to generate predicted pixels. Specifically, four reference pixels adjacent to each of the left and right sides of Sub pel a, b, c, and two vertical lines of Sub pel sandwiching Sub pel a, b, c excluding the reference pixel Four reference pixels in the order close to a, b, and c are used to generate a predicted pixel.
  • Sub pelba, b, c includes a square with a polka dot surrounded by a circle outside the solid line, which further includes four reference pixels represented by the square with the fine polka dot in FIG. 4 ⁇ 3 reference pixels centered on Sub pel a, b, c may be used.
  • the prediction pixel is Sub pel a, b, c in which the vertical position is an integer position and the horizontal position is a fractional position
  • a predicted pixel is generated using not only the reference pixels arranged in a row but also the reference pixels arranged in the vertical direction. Accordingly, the horizontal and vertical characteristics of the predicted pixel can be improved.
  • the reference pixels in the conventional method of FIG. 3 are six reference pixels located on the left and right sides of Sub pel a, b, c, which are represented by the square surrounded by the dotted line in FIG. 6.
  • reference pixels arranged in the vertical direction are not used. Therefore, the vertical characteristics of the predicted pixel are not good.
  • the FIR filter 42 performs SIMD (Single Instruction Multiple Multiple Data) calculation
  • SIMD Single Instruction Multiple Multiple Data
  • the number of reference pixels used to generate Sub pels a, b, and c is 8 as shown in FIG. If so, the operation can be performed efficiently.
  • the position of the reference pixel represented by the square with polka dots enclosed by the solid line in FIG. 6 is Sub pel as compared to the reference pixel in the conventional method of FIG. 3 represented by the square enclosed by the dotted line in FIG. 6. Close to a, b, c.
  • FIG. 7 is a diagram illustrating an example of reference pixels used for generating a prediction pixel in which the horizontal position is an integer position and the vertical position is a fractional position.
  • the predicted pixel is Sub pel, d, h, l whose horizontal position is an integer position and whose vertical position is a fractional position, it is surrounded by a circle inside the solid line
  • Eight reference pixels represented by squares with rough polka dots are used to generate predicted pixels. Specifically, four reference pixels located at the top and bottom of Sub pel d, h, l, and two horizontal lines of Sub that sandwich Sub pel d, h, l, excluding the reference pixels. Four reference pixels in order close to pel d, h, l are used to generate a prediction pixel.
  • Sub pelhd, h, l further includes four reference pixels represented by the square with fine polka dots in FIG. 7 and a square with polka dots surrounded by a circle outside the solid line 3 ⁇ 4 reference pixels centered on Sub pel d, h, l may be used.
  • the reference is aligned in the vertical direction.
  • a predicted pixel is generated using not only pixels but also reference pixels arranged in the horizontal direction. Therefore, the vertical and horizontal characteristics of the predicted pixel can be improved.
  • the reference pixels in the conventional method of FIG. 3 are six reference pixels located three above and below Sub pel d, h, l, which are represented by a square surrounded by a dotted line in FIG. 7.
  • reference pixels arranged in the horizontal direction are not used. Therefore, the horizontal characteristics of the predicted pixel are not good.
  • the FIR filter 42 performs the SIMD calculation, as shown in FIG. 7, if the number of reference pixels used for generating Sub ⁇ pel d, h, l is eight that is a power of 2, the calculation is efficient. Can be done automatically.
  • the position of the reference pixel represented by the square with polka dots surrounded by the solid line in FIG. 7 is Sub pel as compared to the reference pixel in the conventional method of FIG. 3 represented by the square surrounded by the dotted line in FIG. 7. Close to d, h, l.
  • FIG. 8 is a diagram illustrating an example of reference pixels used for generating upper left and lower right predicted pixels whose horizontal and vertical positions are 1/4 pixel positions.
  • the reference pixels in the conventional method of FIG. 3 are six pixels arranged in an oblique direction in which Sub pel e, o centered on Sub pel e, o is represented by a square surrounded by a dotted line in FIG.
  • the reference pixels arranged in the direction orthogonal to the oblique direction are not used. Therefore, the characteristic of the prediction pixel in the direction orthogonal to the oblique direction in which Sub pel e, o is arranged is deteriorated as compared with the case where an interpolation filter having a conventional Separable 2D structure is used.
  • the two reference pixels in the order close to Sub, pel, e, o arranged in the direction orthogonal to the diagonal direction in which Sub pel e, o is arranged are on the reference image of Sub pel e, o.
  • the distance from the position is equal. Therefore, the filter coefficients for the two reference pixels are the same due to the contrast. Therefore, the FIR filter 42 in FIG. 5 can multiply the two reference pixels by the filter coefficient after adding the reference pixels. As a result, the number of multiplications can be reduced.
  • FIG. 10 is a diagram illustrating another example of reference pixels used for generating the upper left and lower right predicted pixels whose horizontal and vertical positions are 1/4 pixel positions.
  • the six reference pixels in the example of FIG. 10 reference pixels represented by a square with polka dots surrounded by a circle outside the solid line, consisting of four reference pixels represented by a square with fine polka dots in FIG. 10, are used to generate a predicted pixel. Used.
  • FIG. 11 is a diagram illustrating still another example of reference pixels used for generating a prediction pixel when the prediction pixel is Sub pel e.
  • FIG. 12 is a diagram illustrating still another example of the reference pixel used for generating the predicted pixel when the predicted pixel is Sub pel o.
  • the positions of the reference pixels represented by the squares with polka dots enclosed by the solid lines in FIG. 8 and FIGS. 10 to 12 are the conventional diagrams represented by the squares enclosed by the dotted lines in FIGS. 8 and 10 to 12. Compared to the reference pixel in the third method, it is closer to Sub pel e, o.
  • FIG. 13 is a diagram illustrating an example of reference pixels used for generating the upper right and lower left predicted pixels whose horizontal and vertical positions are 1/4 pixel positions.
  • the Sub pel g, m is diagonally arranged.
  • a predicted pixel is generated using not only reference pixels arranged in the direction but also reference pixels arranged in a direction orthogonal to the direction. Therefore, the characteristic of the prediction pixel in the oblique direction can be improved.
  • the reference pixels in the conventional method of FIG. 3 are six pixels arranged in an oblique direction in which Sub pel g, m centered on Sub pel g, m is represented by a square surrounded by a dotted line in FIG.
  • the reference pixels arranged in the direction orthogonal to the oblique direction are not used. Therefore, the characteristics of the prediction pixel in the direction orthogonal to the diagonal direction in which Sub pel g, m is arranged are deteriorated as compared with the case where the interpolation filter having the conventional Separable 2D structure is used.
  • the two reference pixels in the order close to Sub pel g, m arranged in the direction orthogonal to the diagonal direction in which Sub pel g, m are arranged are on the reference image of Sub pel g, m.
  • the distance from the position is equal. Therefore, the filter coefficients for the two reference pixels are the same due to the contrast. Therefore, the FIR filter 42 can multiply the two reference pixels by adding the reference pixels and then multiplying by the filter coefficient. As a result, the number of multiplications can be reduced.
  • FIG. 15 is a diagram illustrating another example of reference pixels used for generating the upper right and lower left predicted pixels whose horizontal and vertical positions are 1/4 pixel positions.
  • the six reference pixels in the example of FIG. 10 reference pixels represented by a square with polka dots surrounded by a circle outside the solid line, which are composed of four reference pixels represented by a square with fine polka dots in FIG. 15, are used to generate a prediction pixel. It is done. Specifically, four reference pixels in the order close to Sub pel g, m arranged in the diagonal direction where Sub pel g, m is arranged, and Sub pel g, m arranged in two in three directions orthogonal to the diagonal direction A total of six reference pixels in the order close to are used for generating a predicted pixel.
  • FIG. 16 is a diagram illustrating still another example of reference pixels used for generating a prediction pixel when the prediction pixel is Sub pel g.
  • FIG. 17 is a diagram illustrating still another example of the reference pixel used for generating the prediction pixel when the prediction pixel is Sub pel m.
  • the positions of the reference pixels represented by the squares with the polka dots enclosed by the solid lines in FIGS. 13 and 15 to 17 are the conventional diagrams represented by the squares enclosed by the dotted lines in FIGS. 13 and 15 to 17. Compared to the reference pixel in the third method, it is closer to Sub pel g, m.
  • FIG. 18 is a diagram illustrating an example of a reference pixel used for generating a predicted pixel whose horizontal and vertical positions are 1/2 pixel positions.
  • the predicted pixel when the predicted pixel is Sub ⁇ pel j whose horizontal and vertical positions are 1/2 pixel positions, the predicted pixel is positioned in two oblique directions orthogonal to each other at the position of Sub pel j.
  • a predicted pixel is generated using not only the reference pixels to be used but also reference pixels arranged in the horizontal direction and the vertical direction across Sub pel j. Therefore, the characteristics of the predicted pixel can be improved.
  • the reference pixels in the conventional method of FIG. 3 are represented by a square surrounded by a dotted line in FIG. 18, and a total of 12 references arranged in six diagonal directions centering on Sub pel j.
  • reference pixels arranged in the horizontal direction and the vertical direction are not used. Accordingly, the characteristics of the predicted pixels in the horizontal direction and the vertical direction are deteriorated as compared with the case where the conventional separation filter having a 2D structure is used.
  • the 2 ⁇ 2 reference pixels closest to Sub pel j have the same distance from the position on the reference image of Sub pel j.
  • the eight reference pixels closest to Sub pel j other than the 2 ⁇ 2 reference pixels are the same distance from the position on the reference image of Sub ⁇ ⁇ pel j. Therefore, the filter coefficients of the 2 ⁇ 2 reference pixels and the eight reference pixels other than the reference pixels are the same due to the contrast. Therefore, the FIR filter 42 can multiply the filter coefficient after adding the reference pixel to each of the 2 ⁇ 2 reference pixels and the eight reference pixels other than the reference pixels. As a result, the number of multiplications can be reduced.
  • FIG. 20 is a diagram illustrating another example of reference pixels used for generating a predicted pixel whose horizontal and vertical positions are 1/2 pixel positions.
  • the predicted pixel is Sub pel j whose horizontal and vertical positions are 1/2 pixel positions
  • 4 ⁇ 4 reference pixels centered on Sub pel j are used for generating predicted pixels.
  • the FIR filter 42 When the FIR filter 42 performs the SIMD calculation, the calculation can be efficiently performed when the number of reference pixels used to generate Sub pel j is 16 which is a power of 2, as illustrated in FIG. .
  • the position of the reference pixel represented by the square with the polka dots surrounded by the solid line in FIGS. 18 and 20 is the reference pixel in the conventional method of FIG. 3 represented by the square surrounded by the dotted line in FIGS. Compared to Sub pel j.
  • FIG. 21 is a diagram illustrating an example of reference pixels necessary for generating a prediction pixel at an arbitrary fractional position when the block size of the inter prediction block is 4 ⁇ 4 pixels.
  • a square represents a reference pixel.
  • a square with polka dots represents a reference pixel within the size range of an inter prediction block among reference pixels used to generate a prediction pixel, and a hatched square represents an inter prediction. Reference pixels in a range exceeding the block size range are shown.
  • Sub pel a to e, g, h, j, l, m, o are generated using the reference pixels described in FIGS. 6 to 20, and Sub pel f, i, k, n Is generated using adjacent Sub pels.
  • the reference pixel range necessary for generating a prediction pixel at an arbitrary fractional position is a 4 ⁇ 4 pixel range which is the size of an inter prediction block, and a left side of the range. It becomes 7 ⁇ 7 pixels in a range of one pixel adjacent and directly above and two pixels right adjacent and directly below.
  • the reference pixels described in FIGS. 6 to 20 are closer to the predicted pixel than the reference pixels in the conventional method of FIG.
  • the number of reference pixels required to generate the predicted pixels at the fractional positions is small. As a result, the amount of memory bandwidth used by the frame memory 22 can be reduced.
  • the reference pixel range necessary for generating a predicted pixel at an arbitrary fractional position is 9 ⁇ 9 pixels, similar to the case shown in FIG.
  • the memory bandwidth usage is larger than 9 ⁇ 9 pixels.
  • [Example of filter coefficients] 22 to 26 are diagrams showing examples of filter coefficients stored in the FIR filter 42 of FIG.
  • the filter coefficient used to generate the predicted pixel that is Sub pel e is the filter coefficient for the nearest reference pixel (hereinafter referred to as the nearest reference pixel), the right reference pixel and the reference pixel immediately below the nearest reference pixel , The filter coefficient for the lower right reference pixel of the nearest reference pixel, the filter coefficient for the lower right reference pixel of the reference pixel, and the filter coefficient for the upper left reference pixel of the nearest reference pixel.
  • the filter coefficient for the nearest reference pixel is 122
  • the filter coefficient for the reference pixel right next to and below the nearest reference pixel is 64.
  • the filter coefficient for the lower right reference pixel of the nearest reference pixel is 17, the filter coefficient for the lower right reference pixel of the reference pixel is ⁇ 4, and the filter coefficient for the upper left reference pixel of the nearest reference pixel is ⁇ 7.
  • the filter coefficients used to generate the predicted pixel that is Sub pel o are the filter coefficient for the nearest reference pixel, the filter coefficient for the reference pixel to the left of and immediately above the nearest reference pixel, and the nearest reference pixel.
  • the filter coefficient for the upper left reference pixel, the filter coefficient for the upper left reference pixel of the reference pixel, and the filter coefficient for the lower right reference pixel of the nearest reference pixel are increased in this order.
  • the filter coefficient for the nearest reference pixel is 122
  • the filter coefficient for the reference pixel to the left of and immediately above the nearest reference pixel is 64.
  • the filter coefficient for the upper left reference pixel of the nearest reference pixel is 17, the filter coefficient for the upper left reference pixel of the reference pixel is -4, and the filter coefficient for the lower right reference pixel of the nearest reference pixel is -7. It is.
  • the filter coefficient used for generating the prediction pixel that is Sub pel g is the filter coefficient for the nearest reference pixel, the filter coefficient for the reference pixel to the left of the nearest reference pixel and the reference pixel immediately below, and the lower left of the nearest reference pixel.
  • the filter coefficient for the reference pixel, the filter coefficient for the lower left reference pixel of the reference pixel, and the filter coefficient for the upper right reference pixel of the nearest reference pixel are in this order.
  • the filter coefficient for the nearest reference pixel is 122
  • the filter coefficient for the reference pixel to the left of and immediately below the nearest reference pixel is 64.
  • the filter coefficient for the lower left reference pixel of the nearest reference pixel is 17, the filter coefficient for the lower left reference pixel of the reference pixel is -4, and the filter coefficient for the upper right reference pixel of the nearest reference pixel is -7. is there.
  • the filter coefficients used to generate a prediction pixel that is Sub pel m are the filter coefficient for the nearest reference pixel, the filter coefficient for the reference pixel right next to and immediately above the nearest reference pixel, and the nearest reference pixel.
  • the filter coefficient for the upper right reference pixel, the filter coefficient for the upper right reference pixel of the reference pixel, and the filter coefficient for the lower left reference pixel of the nearest reference pixel are in this order.
  • the filter coefficient for the nearest reference pixel is 122
  • the filter coefficient for the reference pixel right next to and immediately above the nearest reference pixel is 64.
  • the filter coefficient for the upper right reference pixel of the nearest reference pixel is 17, the filter coefficient for the upper right reference pixel of the reference pixel is -4, and the filter coefficient for the lower left reference pixel of the nearest reference pixel is -7. is there.
  • the filter coefficient used for generating the predicted pixel that is Sub pel j is larger in the order closer to Sub pel j.
  • the filter coefficient for the nearest reference pixel and the filter coefficient for the reference pixels other than the reference pixel are in descending order.
  • the filter coefficient for the nearest reference pixel is 48
  • the filter coefficient for the reference pixels other than the reference pixel is 8.
  • the filter coefficients shown in FIGS. 22 to 26 are obtained by multiplying the actual filter coefficient by 256 in order to simplify the calculation by the FIR filter. Therefore, when the filter coefficients shown in FIGS. 22 to 26 are stored in the filter coefficient memory 43, the FIR filter 42 calculates the filter coefficient and each reference pixel for each reference pixel according to the following equation (3). Multiply and add the resulting multiplication value and offset value, then divide by 256.
  • Equation (3) Y represents a predicted pixel, h i represents a filter coefficient for the i-th reference pixel, and P i represents the i-th reference pixel. 128 is an offset value.
  • FIG. 27 and 28 are flowcharts for explaining the encoding process by the encoding device 10 of FIG. This encoding process is performed, for example, every time an image in units of frames is input to the encoding device 10 as an input signal.
  • step S11 of FIG. 27 the A / D conversion unit 11 of the encoding device 10 performs A / D conversion on the frame unit image input as the input signal, and outputs and stores the image in the screen rearrangement buffer 12.
  • step S12 the screen rearrangement buffer 12 rearranges the stored frame images in the display order in the order for encoding according to the GOP structure.
  • the screen rearrangement buffer 12 supplies the rearranged frame-unit images to the calculation unit 13, the intra prediction unit 23, and the motion prediction unit 25.
  • steps S13 to S30 is performed in units of macroblocks, for example. However, since there is no reference image when processing the first macroblock of the first frame, the processes of steps S13 to S20 and S28 are not performed, and the image of the first frame is assumed to be residual information and an locally decoded image.
  • step S13 the intra prediction unit 23 performs intra prediction of all candidate intra prediction modes based on the image supplied from the screen rearrangement buffer 12 and the reference image supplied from the addition unit 20. A prediction image is generated. The intra prediction unit 23 calculates cost function values for all candidate intra prediction modes. Then, the intra prediction unit 23 determines the intra prediction mode that minimizes the cost function value as the optimal intra prediction mode. The intra prediction unit 23 supplies the prediction image generated in the optimal intra prediction mode and the corresponding cost function value to the selection unit 26.
  • step S ⁇ b> 14 the motion prediction unit 25 performs motion prediction processing in all candidate inter prediction modes on the image supplied from the screen rearrangement buffer 12 using the reference image supplied from the frame memory 22. To generate a fractional motion vector.
  • the motion prediction unit 25 calculates cost function values for all candidate inter prediction modes, and determines the inter prediction mode that minimizes the cost function value as the optimal inter measurement mode. Then, the motion prediction unit 25 supplies the inter prediction mode information, the corresponding motion vector, and the cost function value to the inter prediction unit 24.
  • step S15 the inter prediction unit 24 performs an inter prediction process based on the motion vector supplied from the motion prediction unit 25 and the inter prediction mode information. Details of the inter prediction process will be described with reference to FIG. 29 described later.
  • the inter prediction unit 24 supplies the prediction image generated as a result of the inter prediction process and the cost function value supplied from the motion prediction unit 25 to the selection unit 26.
  • step S ⁇ b> 16 the selection unit 26 determines which one of the optimal intra prediction mode and the optimal inter prediction mode has the smallest cost function value based on the cost function values supplied from the intra prediction unit 23 and the inter prediction unit 24. The optimum prediction mode is determined. Then, the selection unit 26 supplies the prediction image in the optimal prediction mode to the calculation unit 13 and the addition unit 20.
  • step S17 the selection unit 26 determines whether or not the optimal prediction mode is the optimal inter prediction mode.
  • the selection unit 26 notifies the inter prediction unit 24 of selection of a prediction image generated in the optimal inter prediction mode. Thereby, the inter prediction unit 24 outputs the inter prediction mode information, the corresponding motion vector, and the like to the lossless encoding unit 16.
  • step S18 the lossless encoding unit 16 losslessly encodes the inter prediction mode information and motion vectors supplied from the inter prediction unit 24, and uses the resulting information as header information added to the compressed image. . Then, the process proceeds to step S20.
  • step S17 when it is determined in step S17 that the optimal prediction mode is not the optimal inter prediction mode, that is, when the optimal prediction mode is the optimal intra prediction mode, the selection unit 26 selects the prediction image generated in the optimal intra prediction mode. The selection is notified to the intra prediction unit 23. Thereby, the intra prediction unit 23 supplies the intra prediction mode information to the lossless encoding unit 16.
  • step S19 the lossless encoding unit 16 losslessly encodes the intra prediction mode information and the like supplied from the intra prediction unit 23, and uses the resulting information as header information added to the compressed image. Then, the process proceeds to step S20.
  • step S20 the calculation unit 13 subtracts the predicted image supplied from the selection unit 26 from the image supplied from the screen rearrangement buffer 12.
  • the calculation unit 13 outputs an image obtained as a result of the subtraction to the orthogonal transformation unit 14 as residual information.
  • step S ⁇ b> 21 the orthogonal transformation unit 14 performs orthogonal transformation on the residual information from the calculation unit 13 and supplies the coefficient obtained as a result to the quantization unit 15.
  • step S22 the quantization unit 15 quantizes the coefficient supplied from the orthogonal transform unit.
  • the quantized coefficient is input to the lossless encoding unit 16 and the inverse quantization unit 18.
  • step S23 the lossless encoding unit 16 performs lossless encoding on the quantized coefficient supplied from the quantization unit 15, and uses the resulting information as a compressed image. Then, the lossless encoding unit 16 adds the header information generated in the process of step S18 or S19 to the compressed image, and generates compressed image information.
  • step S24 of FIG. 28 the lossless encoding unit 16 supplies the image compression information to the accumulation buffer 17 for accumulation.
  • step S25 the storage buffer 17 outputs the stored image compression information to, for example, a recording device or a transmission path (not shown) in the subsequent stage.
  • step S26 the inverse quantization unit 18 inversely quantizes the quantized coefficient supplied from the quantization unit 15.
  • step S ⁇ b> 27 the inverse orthogonal transform unit 19 performs inverse orthogonal transform on the coefficient supplied from the inverse quantization unit 18, and supplies residual information obtained as a result to the addition unit 20.
  • step S28 the addition unit 20 adds the residual information supplied from the inverse orthogonal transform unit 19 and the predicted image supplied from the selection unit 26, and obtains a locally decoded image.
  • the adding unit 20 supplies the obtained image to the deblocking filter 21 and also supplies it to the intra prediction unit 23 as a reference image.
  • step S29 the deblocking filter 21 performs filtering on the locally decoded image supplied from the adding unit 20 to remove block distortion.
  • step S30 the deblocking filter 21 supplies the image after filtering to the frame memory 22 and accumulates it.
  • the image stored in the frame memory 22 is output to the inter prediction unit 24 and the motion prediction unit 25 as a reference image. Then, the process ends.
  • FIG. 29 is a flowchart illustrating details of the inter prediction process in step S15 of FIG.
  • step S50 of FIG. 29 the reference image reading unit 41 (FIG. 5) of the inter prediction unit 24 is based on the prediction direction and the reference index in the inter prediction mode information supplied from the motion prediction unit 25 of FIG. A reference image among the images stored in the frame memory 22 is specified.
  • step S51 the reference image reading unit 41 determines the size of the prediction image based on the size of the inter prediction block in the inter prediction mode information.
  • step S52 the reference image reading unit 41 reads, from the frame memory 22, the reference pixels used for generating the prediction image based on the integer value of the motion vector and the size of the prediction image in the inter prediction mode information. Hold on.
  • step S53 the reference image reading unit 41 determines a prediction pixel that has not yet been determined as a generation target prediction pixel in the process of step S53 among the prediction pixels constituting the prediction image as a generation target prediction pixel.
  • step S54 the reference image reading unit 41 determines, based on the position of the prediction pixel to be generated on the reference image, the reference pixel used for generation of the prediction pixel among the reference pixels read in step S52.
  • the filter 42 is supplied.
  • step S55 the filter coefficient memory 43 reads out the filter coefficient stored in association with the fractional value based on the fractional value of the motion vector supplied from the motion prediction unit 25 in FIG. Supply.
  • step S56 the FIR filter 42 performs calculation using the reference pixels and filter coefficients supplied from the reference image reading unit 41.
  • step S57 the FIR filter 42 determines whether the prediction pixel to be generated is Sub ⁇ pel f, i, k, n. If it is determined in step S57 that the prediction pixel to be generated is Sub pel f, i, k, n, the process proceeds to step S58.
  • step S58 the FIR filter 42 determines whether the generation target prediction pixel can be generated, that is, whether all the Sub-pels used for generation of the generation target prediction pixel have been generated.
  • step S58 If it is determined in step S58 that the generation-target predicted pixel cannot be generated, the process returns to step S54, and steps S54 to S58 are repeated until the generation-target predicted pixel can be generated.
  • step S58 when it is determined in step S58 that the generation target prediction pixel can be generated, the FIR filter 42 generates a prediction pixel by performing a predetermined calculation using the pixel obtained as a result of the calculation in step S56. Then, the process proceeds to step S59.
  • step S57 If it is determined in step S57 that the predicted pixel to be generated is not Sub pel f, i, k, n, the process proceeds to step S59.
  • step S59 the FIR filter 42 outputs the prediction pixel generated in the process of step S58 to the selection unit 26, or outputs one pixel obtained as a result of the calculation in step S56 as the prediction pixel.
  • step S60 the reference image reading unit 41 determines whether all the prediction pixels have been generated, that is, whether all the prediction pixels constituting the prediction image have been determined as generation target prediction pixels in step S53. If it is determined in step S60 that not all prediction pixels have been generated yet, the process returns to step S53, and the processes in steps S53 to S59 are repeated until all prediction pixels are generated.
  • step S60 determines whether all predicted pixels have been generated. If it is determined in step S60 that all predicted pixels have been generated, the process returns to step S15 in FIG. 27 and proceeds to step S16.
  • the encoding device 10 is arranged in two orthogonal directions when the position of the prediction pixel in the horizontal direction and the vertical direction on the reference image is a fractional position that is not a 1/2 pixel position during inter prediction.
  • a prediction pixel is generated using the reference pixel.
  • the encoding apparatus 10 generates a prediction pixel that is Sub pel e, o, g, m using reference pixels arranged in two orthogonal diagonal directions.
  • the processing amount and the delay amount are reduced as compared with the case where an interpolation filter having a conventional separable 2D structure is used. Further, compared with the conventional method of FIG. The characteristic of the prediction pixel regarding one direction is improved. That is, the encoding apparatus 10 can reduce the processing amount and delay amount of inter prediction while suppressing deterioration in accuracy of inter prediction.
  • FIG. 30 is a block diagram illustrating a configuration example of a decoding apparatus as an image processing apparatus to which the present invention is applied, which decodes the compressed image information output from the encoding apparatus 10 of FIG.
  • the 30 includes an accumulation buffer 101, a lossless decoding unit 102, an inverse quantization unit 103, an inverse orthogonal transform unit 104, an addition unit 105, a deblock filter 106, a screen rearrangement buffer 107, and a D / A conversion unit. 108, a frame memory 109, an intra prediction unit 110, an inter prediction unit 111, and a switch 112.
  • the accumulation buffer 101 of the decoding apparatus 100 receives the image compression information from the encoding apparatus 10 in FIG. 4 and accumulates it.
  • the accumulation buffer 101 supplies the accumulated image compression information to the lossless decoding unit 102.
  • the lossless decoding unit 102 obtains quantized coefficients and headers by performing lossless decoding such as variable length decoding and arithmetic decoding on the compressed image information from the storage buffer 101.
  • the lossless decoding unit 102 supplies the quantized coefficients to the inverse quantization unit 103.
  • the lossless decoding unit 102 supplies intra prediction mode information and the like included in the header to the intra prediction unit 110, and supplies motion vectors and inter prediction mode information to the inter prediction unit 111. Further, the lossless decoding unit 102 supplies intra prediction mode information or inter prediction mode information included in the header to the switch 112.
  • the inverse quantization unit 103, the inverse orthogonal transform unit 104, the addition unit 105, the deblock filter 106, the frame memory 109, the intra prediction unit 110, and the inter prediction unit 111 are the same as the inverse quantization unit 18 and the inverse orthogonal transform in FIG.
  • the same processing as that of the unit 19, the adding unit 20, the deblocking filter 21, the frame memory 22, the intra prediction unit 23, and the inter prediction unit 24 is performed, whereby the image is decoded.
  • the inverse quantization unit 103 inversely quantizes the quantized coefficient from the lossless decoding unit 102 and supplies the coefficient obtained as a result to the inverse orthogonal transform unit 104.
  • the inverse orthogonal transform unit 104 performs inverse orthogonal transform such as inverse discrete cosine transform and inverse Karhunen-Loeve transform on the coefficient from the inverse quantization unit 103, and supplies the residual information obtained as a result to the addition unit 105 To do.
  • inverse orthogonal transform such as inverse discrete cosine transform and inverse Karhunen-Loeve transform
  • the addition unit 105 functions as an addition calculation unit, adds the residual information as an image to be decoded supplied from the inverse orthogonal transform unit 104 and the prediction image supplied from the switch 112, and obtains an image obtained as a result thereof. While supplying to the deblocking filter 106, it supplies to the intra estimation part 110 as a reference image. When the prediction image is not supplied from the switch 112, the addition unit 105 supplies an image, which is residual information supplied from the inverse orthogonal transform unit 104, to the deblocking filter 106, and also to the intra prediction unit 110 as a reference image. Supply.
  • the deblock filter 106 removes block distortion by filtering the image supplied from the addition unit 105.
  • the deblocking filter 106 supplies the image obtained as a result to the frame memory 109, stores it, and supplies it to the screen rearrangement buffer 107.
  • the image stored in the frame memory 109 is supplied to the inter prediction unit 111 as a reference image.
  • the screen rearrangement buffer 107 stores the image supplied from the deblock filter 106 in units of frames.
  • the screen rearrangement buffer 107 rearranges the stored frame-by-frame images for encoding in the original display order and supplies them to the D / A conversion unit 108.
  • the D / A converter 108 D / A converts the frame unit image supplied from the screen rearrangement buffer 107 and outputs it as an output signal.
  • the intra prediction unit 110 performs intra prediction of the intra prediction mode represented by the intra prediction mode information supplied from the lossless decoding unit 102 using the reference image supplied from the addition unit 105, and generates a prediction image. Then, the intra prediction unit 110 supplies the predicted image to the switch 112.
  • the inter prediction unit 111 is configured in the same manner as the inter prediction unit 24 shown in FIG.
  • the inter prediction unit 111 reads a reference image from the frame memory 109 based on the inter prediction mode information and the motion vector supplied from the lossless decoding unit 102.
  • the inter prediction unit 111 performs inter prediction processing based on the motion vector and the reference image read from the frame memory 109.
  • the inter prediction unit 111 supplies the prediction image generated as a result to the switch 112.
  • the switch 112 supplies the prediction image supplied from the intra prediction unit 110 to the addition unit 105.
  • the prediction image supplied from the inter prediction unit 111 is supplied to the adding unit 105.
  • FIG. 31 is a flowchart illustrating a decoding process performed by the decoding device 100 in FIG. For example, this decoding process is performed every time frame-based image compression information is input to the decoding device 100.
  • step S101 of FIG. 31 the accumulation buffer 101 of the decoding device 100 receives and accumulates the frame-based image compression information from the encoding device 10 of FIG.
  • the accumulation buffer 101 supplies the accumulated image compression information to the lossless decoding unit 102. Note that the processing in the following steps S102 to S110 is performed in units of macrobooks, for example.
  • step S102 the lossless decoding unit 102 losslessly decodes the compressed image information from the accumulation buffer 101, and obtains quantized coefficients and headers.
  • the lossless decoding unit 102 supplies the quantized coefficients to the inverse quantization unit 103.
  • the lossless decoding unit 102 supplies intra prediction mode information and the like included in the header to the intra prediction unit 110, and supplies motion vectors and inter prediction mode information to the inter prediction unit 111. Further, the lossless decoding unit 102 supplies intra prediction mode information or inter prediction mode information included in the header to the switch 112.
  • step S103 the inverse quantization unit 103 inversely quantizes the quantized coefficient from the lossless decoding unit 102, and supplies the resulting coefficient to the inverse orthogonal transform unit 104.
  • step S ⁇ b> 104 the inverse orthogonal transform unit 104 performs inverse orthogonal transform on the coefficient from the inverse quantization unit 103, and supplies residual information obtained as a result to the addition unit 105.
  • step S105 the inter prediction unit 111 determines whether or not the inter prediction mode information is supplied from the lossless decoding unit 102. If it is determined in step S105 that the inter prediction mode information has been supplied, the process proceeds to step S106.
  • step S106 the inter prediction unit 111 performs the inter prediction process described in FIG. 29 based on the motion vector and the inter prediction mode information supplied from the lossless decoding unit 102.
  • the inter prediction unit 111 supplies the predicted image generated as a result to the addition unit 105 via the switch 112, and the process proceeds to step S108.
  • step S105 determines whether the inter prediction mode information is supplied. If it is determined in step S105 that the inter prediction mode information is not supplied, that is, if the intra prediction mode information is supplied to the intra prediction unit 110, the process proceeds to step S107.
  • step S107 the intra prediction unit 110 performs intra prediction of the intra prediction mode represented by the intra prediction mode information supplied from the lossless decoding unit 102, using the reference image supplied from the addition unit 105. Then, the intra prediction unit 110 supplies the prediction image generated as a result to the addition unit 105 via the switch 112, and the process proceeds to step S108.
  • step S108 the adding unit 105 adds the residual information supplied from the inverse orthogonal transform unit 104 and the prediction image supplied from the switch 112.
  • the adding unit 105 supplies the image obtained as a result to the deblocking filter 106 and also supplies it to the intra prediction unit 110 as a reference image. Note that when processing the first macroblock of the first frame, there is no reference image, so the processing of steps S105 to S108 is not performed, and an image as residual information is supplied to the deblocking filter 106 and the reference image To the intra prediction unit 110.
  • step S109 the deblocking filter 106 performs filtering on the image supplied from the adding unit 105 to remove block distortion.
  • step S110 the deblocking filter 106 supplies the filtered image to the frame memory 109, stores it, and supplies it to the screen rearrangement buffer 107.
  • the image stored in the frame memory 109 is supplied to the inter prediction unit 111 as a reference image.
  • step S111 the screen rearrangement buffer 107 stores the image supplied from the deblocking filter 106 in units of frames, and rearranges the stored frame-by-frame images for encoding in the original display order. , And supplied to the D / A converter 108.
  • step S112 the D / A conversion unit 108 D / A converts the frame unit image supplied from the screen rearrangement buffer 107, and outputs it as an output signal.
  • the decoding apparatus 100 when the inter prediction is performed, the decoding apparatus 100, in the same way as the encoding apparatus 10, has a case where the position of the prediction pixel in the reference image in the horizontal direction and the vertical direction is a fractional position that is not a 1/2 pixel position. Then, a prediction pixel is generated using reference pixels arranged in two orthogonal directions. As a result, the decoding apparatus 100 can reduce the processing amount and delay amount of inter prediction while suppressing deterioration in accuracy of inter prediction.
  • the filter coefficient may be variable.
  • an adaptive interpolation filter (AIF) is used.
  • AIF adaptive interpolation filter
  • the encoding method is H.264.
  • the H.264 / AVC system is used as a base, but the present invention is not limited to this.
  • the present invention can also be applied to an encoding apparatus / decoding apparatus using an encoding system / decoding system that performs other motion prediction / compensation processing. .
  • the present invention includes, for example, MPEG, H.264, and the like.
  • the image information (bit stream) compressed by the orthogonal compression such as discrete cosine transform and motion compensation, such as 26x, is transmitted via network media such as satellite broadcasting, cable television, the Internet, or mobile phones.
  • network media such as satellite broadcasting, cable television, the Internet, or mobile phones.
  • the present invention can be applied to an encoding device and a decoding device that are used for reception.
  • the present invention can also be applied to an encoding device and a decoding device that are used when processing a storage medium such as an optical disk, a magnetic disk, or a flash memory.
  • the present invention can also be applied to motion prediction / compensation devices included in these encoding devices and decoding devices.
  • the above-described encoding process and decoding process can be performed by hardware or can be performed by software.
  • a program constituting the software is installed in a general-purpose computer or the like.
  • FIG. 32 shows a configuration example of an embodiment of a computer in which a program for executing the series of processes described above is installed.
  • the program can be recorded in advance in a storage unit 408 or a ROM (Read Only Memory) 402 as a recording medium built in the computer.
  • ROM Read Only Memory
  • the program can be stored (recorded) in the removable medium 411.
  • a removable medium 411 can be provided as so-called package software.
  • examples of the removable medium 411 include a flexible disk, a CD-ROM (Compact Disc Read Only Memory), an MO (Magneto Optical) disc, a DVD (Digital Versatile Disc), a magnetic disc, a semiconductor memory, and the like.
  • the program can be installed on the computer from the removable medium 411 as described above via the drive 410, or can be downloaded to the computer via a communication network or a broadcast network, and installed in the built-in storage unit 408. That is, the program is transferred from a download site to a computer wirelessly via a digital satellite broadcasting artificial satellite, or wired to a computer via a network such as a LAN (Local Area Network) or the Internet. be able to.
  • LAN Local Area Network
  • the computer has a CPU (Central Processing Unit) 401 built in, and an input / output interface 405 is connected to the CPU 401 via a bus 404.
  • CPU Central Processing Unit
  • the CPU 401 executes a program stored in the ROM 402 according to a command input by the user operating the input unit 406 via the input / output interface 405. Alternatively, the CPU 401 loads the program stored in the storage unit 408 into a RAM (Random Access Memory) 403 and executes it.
  • a RAM Random Access Memory
  • the CPU 401 performs processing according to the flowchart described above or processing performed by the configuration of the block diagram described above. Then, the CPU 401 causes the processing result to be output from the output unit 407 or transmitted from the communication unit 409 via the input / output interface 405, for example, and further recorded in the storage unit 408 as necessary.
  • the input unit 406 includes a keyboard, a mouse, a microphone, and the like.
  • the output unit 407 includes an LCD (Liquid Crystal Display), a speaker, and the like.
  • the processing performed by the computer according to the program does not necessarily have to be performed in chronological order in the order described as the flowchart. That is, the processing performed by the computer according to the program includes processing executed in parallel or individually (for example, parallel processing or object processing).
  • the program may be processed by one computer (processor), or may be distributedly processed by a plurality of computers. Furthermore, the program may be transferred to a remote computer and executed.
  • FIG. 33 is a block diagram illustrating a main configuration example of a television receiver using a decoding device to which the present invention has been applied.
  • the television receiver 500 shown in FIG. 33 includes a terrestrial tuner 513, a video decoder 515, a video signal processing circuit 518, a graphic generation circuit 519, a panel drive circuit 520, and a display panel 521.
  • the terrestrial tuner 513 receives a broadcast wave signal of terrestrial analog broadcasting via an antenna, demodulates it, acquires a video signal, and supplies it to the video decoder 515.
  • the video decoder 515 performs a decoding process on the video signal supplied from the terrestrial tuner 513 and supplies the obtained digital component signal to the video signal processing circuit 518.
  • the video signal processing circuit 518 performs predetermined processing such as noise removal on the video data supplied from the video decoder 515, and supplies the obtained video data to the graphic generation circuit 519.
  • the graphic generation circuit 519 generates video data of a program to be displayed on the display panel 521, image data by processing based on an application supplied via a network, and the like, and generates the generated video data and image data in the panel drive circuit 520. Supply.
  • the graphic generation circuit 519 generates video data (graphic) for displaying a screen used by the user for selecting an item, and superimposes the video data on the video data of the program.
  • a process of supplying data to the panel drive circuit 520 is also performed as appropriate.
  • the panel drive circuit 520 drives the display panel 521 based on the data supplied from the graphic generation circuit 519, and causes the display panel 521 to display the video of the program and the various screens described above.
  • the display panel 521 is composed of an LCD (Liquid Crystal Display) or the like, and displays a video of a program or the like according to control by the panel drive circuit 520.
  • LCD Liquid Crystal Display
  • the television receiver 500 also includes an audio A / D (Analog / Digital) conversion circuit 514, an audio signal processing circuit 522, an echo cancellation / audio synthesis circuit 523, an audio amplification circuit 524, and a speaker 525.
  • an audio A / D (Analog / Digital) conversion circuit 514 An audio signal processing circuit 522, an echo cancellation / audio synthesis circuit 523, an audio amplification circuit 524, and a speaker 525.
  • the terrestrial tuner 513 acquires not only a video signal but also an audio signal by demodulating the received broadcast wave signal.
  • the terrestrial tuner 513 supplies the acquired audio signal to the audio A / D conversion circuit 514.
  • the audio A / D conversion circuit 514 performs A / D conversion processing on the audio signal supplied from the terrestrial tuner 513, and supplies the obtained digital audio signal to the audio signal processing circuit 522.
  • the audio signal processing circuit 522 performs predetermined processing such as noise removal on the audio data supplied from the audio A / D conversion circuit 514 and supplies the obtained audio data to the echo cancellation / audio synthesis circuit 523.
  • the echo cancellation / voice synthesis circuit 523 supplies the voice data supplied from the voice signal processing circuit 522 to the voice amplification circuit 524.
  • the audio amplification circuit 524 performs D / A conversion processing and amplification processing on the audio data supplied from the echo cancellation / audio synthesis circuit 523, adjusts to a predetermined volume, and then outputs the audio from the speaker 525.
  • the television receiver 500 also has a digital tuner 516 and an MPEG decoder 517.
  • the digital tuner 516 receives a broadcast wave signal of digital broadcasting (terrestrial digital broadcasting, BS (Broadcasting Satellite) / CS (Communications Satellite) digital broadcasting) via an antenna, demodulates, and MPEG-TS (Moving Picture Experts Group). -Transport Stream) and supply it to the MPEG decoder 517.
  • digital broadcasting terrestrial digital broadcasting, BS (Broadcasting Satellite) / CS (Communications Satellite) digital broadcasting
  • MPEG-TS Motion Picture Experts Group
  • the MPEG decoder 517 releases the scramble applied to the MPEG-TS supplied from the digital tuner 516 and extracts a stream including program data to be played (viewing target).
  • the MPEG decoder 517 decodes the audio packet constituting the extracted stream, supplies the obtained audio data to the audio signal processing circuit 522, decodes the video packet constituting the stream, and converts the obtained video data into the video This is supplied to the signal processing circuit 518.
  • the MPEG decoder 517 supplies EPG (Electronic Program Guide) data extracted from MPEG-TS to the CPU 532 via a path (not shown).
  • the television receiver 500 uses the above-described decoding device 100 as the MPEG decoder 517 for decoding video packets in this way. Therefore, the MPEG decoder 517 can reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of the inter prediction, as in the case of the decoding device 100.
  • the video data supplied from the MPEG decoder 517 is subjected to predetermined processing in the video signal processing circuit 518 as in the case of the video data supplied from the video decoder 515. Then, the video data subjected to the predetermined processing is appropriately superimposed with the generated video data in the graphic generation circuit 519 and supplied to the display panel 521 via the panel drive circuit 520 to display the image. .
  • the audio data supplied from the MPEG decoder 517 is subjected to predetermined processing in the audio signal processing circuit 522 as in the case of the audio data supplied from the audio A / D conversion circuit 514. Then, the audio data that has been subjected to the predetermined processing is supplied to the audio amplifying circuit 524 via the echo cancellation / audio synthesizing circuit 523 and subjected to D / A conversion processing and amplification processing. As a result, sound adjusted to a predetermined volume is output from the speaker 525.
  • the television receiver 500 also includes a microphone 526 and an A / D conversion circuit 527.
  • the A / D conversion circuit 527 receives the user's voice signal captured by the microphone 526 provided in the television receiver 500 for voice conversation.
  • the A / D conversion circuit 527 performs A / D conversion processing on the received audio signal, and supplies the obtained digital audio data to the echo cancellation / audio synthesis circuit 523.
  • the echo cancellation / audio synthesis circuit 523 When the audio data of the user (user A) of the television receiver 500 is supplied from the A / D conversion circuit 527, the echo cancellation / audio synthesis circuit 523 performs echo cancellation on the audio data of the user A. . Then, the echo cancellation / voice synthesis circuit 523 outputs voice data obtained by synthesizing with other voice data after echo cancellation from the speaker 525 via the voice amplification circuit 524.
  • the television receiver 500 also includes an audio codec 528, an internal bus 529, an SDRAM (Synchronous Dynamic Random Access Memory) 530, a flash memory 531, a CPU 532, a USB (Universal Serial Bus) I / F 533, and a network I / F 534.
  • SDRAM Serial Dynamic Random Access Memory
  • USB Universal Serial Bus
  • the A / D conversion circuit 527 receives the user's voice signal captured by the microphone 526 provided in the television receiver 500 for voice conversation.
  • the A / D conversion circuit 527 performs A / D conversion processing on the received audio signal, and supplies the obtained digital audio data to the audio codec 528.
  • the audio codec 528 converts the audio data supplied from the A / D conversion circuit 527 into data of a predetermined format for transmission via the network, and supplies the data to the network I / F 534 via the internal bus 529.
  • the network I / F 534 is connected to the network via a cable attached to the network terminal 535.
  • the network I / F 534 transmits the audio data supplied from the audio codec 528 to other devices connected to the network.
  • the network I / F 534 receives, for example, audio data transmitted from another device connected via the network via the network terminal 535, and receives it via the internal bus 529 to the audio codec 528. Supply.
  • the audio codec 528 converts the audio data supplied from the network I / F 534 into data of a predetermined format and supplies it to the echo cancellation / audio synthesis circuit 523.
  • the echo cancellation / speech synthesis circuit 523 performs echo cancellation on the speech data supplied from the speech codec 528 and synthesizes speech data obtained by synthesizing with other speech data via the speech amplification circuit 524. And output from the speaker 525.
  • the SDRAM 530 stores various data necessary for the CPU 532 to perform processing.
  • the flash memory 531 stores a program executed by the CPU 532.
  • the program stored in the flash memory 531 is read by the CPU 532 at a predetermined timing such as when the television receiver 500 is activated.
  • the flash memory 531 also stores EPG data acquired via digital broadcasting, data acquired from a predetermined server via a network, and the like.
  • the flash memory 531 stores MPEG-TS including content data acquired from a predetermined server via a network under the control of the CPU 532.
  • the flash memory 531 supplies the MPEG-TS to the MPEG decoder 517 via the internal bus 529 under the control of the CPU 532, for example.
  • the MPEG decoder 517 processes the MPEG-TS as in the case of the MPEG-TS supplied from the digital tuner 516. In this way, the television receiver 500 receives content data including video and audio via the network, decodes it using the MPEG decoder 517, displays the video, and outputs audio. Can do.
  • the television receiver 500 also includes a light receiving unit 537 that receives an infrared signal transmitted from the remote controller 551.
  • the light receiving unit 537 receives the infrared light from the remote controller 551 and outputs a control code representing the contents of the user operation obtained by demodulation to the CPU 532.
  • the CPU 532 executes a program stored in the flash memory 531 and controls the overall operation of the television receiver 500 in accordance with a control code supplied from the light receiving unit 537.
  • the CPU 532 and each part of the television receiver 500 are connected via a route (not shown).
  • the USB interface I / F 533 transmits / receives data to / from an external device of the television receiver 500 connected via a USB cable attached to the USB terminal 536.
  • the network I / F 534 is connected to the network via a cable attached to the network terminal 535, and also transmits / receives data other than audio data to / from various devices connected to the network.
  • the television receiver 500 uses the decoding device 100 as the MPEG decoder 517, thereby reducing the processing amount and the delay amount while suppressing the deterioration of the accuracy of inter prediction.
  • FIG. 34 is a block diagram showing a main configuration example of a mobile phone using an encoding device and a decoding device to which the present invention is applied.
  • a mobile phone 600 shown in FIG. 34 includes a main control unit 650, a power supply circuit unit 651, an operation input control unit 652, an image encoder 653, a camera I / F unit 654, an LCD control, which are configured to control each unit in an integrated manner. 655, an image decoder 656, a demultiplexing unit 657, a recording / reproducing unit 662, a modulation / demodulation circuit unit 658, and an audio codec 659. These are connected to each other via a bus 660.
  • the mobile phone 600 includes an operation key 619, a CCD (Charge Coupled Devices) camera 616, a liquid crystal display 618, a storage unit 623, a transmission / reception circuit unit 663, an antenna 614, a microphone (microphone) 621, and a speaker 617.
  • CCD Charge Coupled Devices
  • the power supply circuit unit 651 starts up the mobile phone 600 in an operable state by supplying power from the battery pack to each unit.
  • the mobile phone 600 transmits / receives audio signals, transmits / receives e-mails and image data, and images in various modes such as a voice call mode and a data communication mode based on the control of the main control unit 650 including a CPU, a ROM, a RAM, and the like. Various operations such as shooting or data recording are performed.
  • the mobile phone 600 converts a voice signal collected by the microphone (microphone) 621 into digital voice data by the voice codec 659, performs spectrum spread processing by the modulation / demodulation circuit unit 658, and transmits and receives
  • the unit 663 performs digital / analog conversion processing and frequency conversion processing.
  • the cellular phone 600 transmits the transmission signal obtained by the conversion processing to a base station (not shown) via the antenna 614.
  • the transmission signal (voice signal) transmitted to the base station is supplied to the mobile phone of the other party via the public telephone line network.
  • the cellular phone 600 in the voice call mode, amplifies the received signal received by the antenna 614 by the transmission / reception circuit unit 663, further performs frequency conversion processing and analog-digital conversion processing, and performs spectrum despreading processing by the modulation / demodulation circuit unit 658. Then, the audio codec 659 converts it to an analog audio signal. The cellular phone 600 outputs an analog audio signal obtained by the conversion from the speaker 617.
  • the mobile phone 600 when transmitting an e-mail in the data communication mode, accepts text data of the e-mail input by operating the operation key 619 in the operation input control unit 652.
  • the cellular phone 600 processes the text data in the main control unit 650 and displays the text data on the liquid crystal display 618 via the LCD control unit 655 as an image.
  • the mobile phone 600 generates e-mail data in the main control unit 650 based on the text data received by the operation input control unit 652, user instructions, and the like.
  • the cellular phone 600 performs spread spectrum processing on the electronic mail data by the modulation / demodulation circuit unit 658 and digital / analog conversion processing and frequency conversion processing by the transmission / reception circuit unit 663.
  • the cellular phone 600 transmits the transmission signal obtained by the conversion processing to a base station (not shown) via the antenna 614.
  • the transmission signal (e-mail) transmitted to the base station is supplied to a predetermined destination via a network and a mail server.
  • the mobile phone 600 when receiving an e-mail in the data communication mode, receives and amplifies the signal transmitted from the base station by the transmission / reception circuit unit 663 via the antenna 614, and further performs frequency conversion processing and Analog-digital conversion processing.
  • the mobile phone 600 performs spectrum despreading processing on the received signal by the modulation / demodulation circuit unit 658 to restore the original e-mail data.
  • the cellular phone 600 displays the restored e-mail data on the liquid crystal display 618 via the LCD control unit 655.
  • the mobile phone 600 can record (store) the received electronic mail data in the storage unit 623 via the recording / playback unit 662.
  • the storage unit 623 is an arbitrary rewritable storage medium.
  • the storage unit 623 may be, for example, a semiconductor memory such as a RAM or a built-in flash memory, a hard disk, or a removable disk such as a magnetic disk, a magneto-optical disk, an optical disk, a USB memory, or a memory card. It may be media. Of course, other than these may be used.
  • the mobile phone 600 when transmitting image data in the data communication mode, the mobile phone 600 generates image data with the CCD camera 616 by imaging.
  • the CCD camera 616 includes an optical device such as a lens and a diaphragm and a CCD as a photoelectric conversion element, images a subject, converts the intensity of received light into an electrical signal, and generates image data of the subject image.
  • the image data is converted into encoded image data by compression encoding with a predetermined encoding method such as MPEG2 or MPEG4 by the image encoder 653 via the camera I / F unit 654.
  • the cellular phone 600 uses the above-described encoding device 10 as the image encoder 653 that performs such processing. Therefore, the image encoder 653 can reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of inter prediction, as in the case of the encoding device 10.
  • the cellular phone 600 simultaneously converts the audio collected by the microphone (microphone) 621 during imaging by the CCD camera 616 into an analog codec and further encodes it.
  • the cellular phone 600 multiplexes the encoded image data supplied from the image encoder 653 and the digital audio data supplied from the audio codec 659 in a demultiplexing unit 657 by a predetermined method.
  • the cellular phone 600 performs spread spectrum processing on the multiplexed data obtained as a result by the modulation / demodulation circuit unit 658 and digital / analog conversion processing and frequency conversion processing by the transmission / reception circuit unit 663.
  • the cellular phone 600 transmits the transmission signal obtained by the conversion processing to a base station (not shown) via the antenna 614.
  • a transmission signal (image data) transmitted to the base station is supplied to a communication partner via a network or the like.
  • the mobile phone 600 can display the image data generated by the CCD camera 616 on the liquid crystal display 618 via the LCD control unit 655 without using the image encoder 653.
  • the mobile phone 600 when receiving data of a moving image file linked to a simple homepage or the like, transmits a signal transmitted from the base station to the transmission / reception circuit unit 663 via the antenna 614. Receive, amplify, and further perform frequency conversion processing and analog-digital conversion processing. The mobile phone 600 performs spectrum despreading processing on the received signal by the modulation / demodulation circuit unit 658 to restore the original multiplexed data. In the cellular phone 600, the demultiplexing unit 657 separates the multiplexed data into coded image data and audio data.
  • the cellular phone 600 In the image decoder 656, the cellular phone 600 generates reproduction moving image data by decoding the encoded image data by a decoding method corresponding to a predetermined encoding method such as MPEG2 or MPEG4, and this is controlled by the LCD control.
  • the image is displayed on the liquid crystal display 618 via the unit 655.
  • the moving image data included in the moving image file linked to the simple homepage is displayed on the liquid crystal display 618.
  • the mobile phone 600 uses the above-described decoding device 100 as the image decoder 656 that performs such processing. Therefore, the image decoder 656 can reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of inter prediction, as in the case of the decoding device 100.
  • the cellular phone 600 simultaneously converts the digital audio data into an analog audio signal in the audio codec 659 and outputs it from the speaker 617. Thereby, for example, audio data included in the moving image file linked to the simple homepage is reproduced.
  • the mobile phone 600 can record (store) the data linked to the received simplified home page or the like in the storage unit 623 via the recording / playback unit 662. .
  • the mobile phone 600 can analyze the two-dimensional code obtained by the CCD camera 616 by the main control unit 650 and obtain information recorded in the two-dimensional code.
  • the mobile phone 600 can communicate with an external device by infrared rays at the infrared communication unit 681.
  • the mobile phone 600 can reduce the processing amount and the delay amount while suppressing deterioration in the accuracy of inter prediction.
  • the cellular phone 600 can reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of the inter prediction by using the decoding device 100 as the image decoder 656.
  • the mobile phone 600 uses the CCD camera 616.
  • an image sensor CMOS image sensor
  • CMOS Complementary Metal Oxide Semiconductor
  • the mobile phone 600 can capture an image of a subject and generate image data of the image of the subject, as in the case where the CCD camera 616 is used.
  • the mobile phone 600 has been described.
  • an imaging function similar to that of the mobile phone 600 such as a PDA (Personal Digital Assistant), a smartphone, an UMPC (Ultra Mobile Personal Computer), a netbook, a notebook personal computer, or the like.
  • the encoding device 10 and the decoding device 100 can be applied to any device as in the case of the mobile phone 600.
  • FIG. 35 is a block diagram showing a main configuration example of a hard disk recorder using an encoding device and a decoding device to which the present invention is applied.
  • a hard disk recorder 700 shown in FIG. 35 receives audio data and video data of a broadcast program included in a broadcast wave signal (television signal) transmitted from a satellite or a ground antenna received by a tuner.
  • This is an apparatus that stores in a built-in hard disk and provides the stored data to the user at a timing according to the user's instruction.
  • the hard disk recorder 700 can, for example, extract audio data and video data from broadcast wave signals, decode them as appropriate, and store them in a built-in hard disk.
  • the hard disk recorder 700 can also acquire audio data and video data from other devices via a network, for example, decode them as appropriate, and store them in a built-in hard disk.
  • the hard disk recorder 700 decodes audio data and video data recorded in a built-in hard disk, supplies the decoded data to the monitor 760, and displays the image on the screen of the monitor 760. Further, the hard disk recorder 700 can output the sound from the speaker of the monitor 760.
  • the hard disk recorder 700 decodes audio data and video data extracted from broadcast wave signals acquired via a tuner, or audio data and video data acquired from other devices via a network, and monitors 760. And the image is displayed on the screen of the monitor 760.
  • the hard disk recorder 700 can also output the sound from the speaker of the monitor 760.
  • the hard disk recorder 700 includes a receiving unit 721, a demodulating unit 722, a demultiplexer 723, an audio decoder 724, a video decoder 725, and a recorder control unit 726.
  • the hard disk recorder 700 further includes an EPG data memory 727, a program memory 728, a work memory 729, a display converter 730, an OSD (On Screen Display) control unit 731, a display control unit 732, a recording / playback unit 733, a D / A converter 734, And a communication unit 735.
  • the display converter 730 has a video encoder 741.
  • the recording / playback unit 733 includes an encoder 751 and a decoder 752.
  • the receiving unit 721 receives an infrared signal from a remote controller (not shown), converts it into an electrical signal, and outputs it to the recorder control unit 726.
  • the recorder control unit 726 is constituted by, for example, a microprocessor and executes various processes according to a program stored in the program memory 728. At this time, the recorder control unit 726 uses the work memory 729 as necessary.
  • the communication unit 735 is connected to the network and performs communication processing with other devices via the network.
  • the communication unit 735 is controlled by the recorder control unit 726, communicates with a tuner (not shown), and mainly outputs a channel selection control signal to the tuner.
  • the demodulator 722 demodulates the signal supplied from the tuner and outputs the demodulated signal to the demultiplexer 723.
  • the demultiplexer 723 separates the data supplied from the demodulation unit 722 into audio data, video data, and EPG data, and outputs them to the audio decoder 724, the video decoder 725, or the recorder control unit 726, respectively.
  • the audio decoder 724 decodes the input audio data by, for example, the MPEG system and outputs the decoded audio data to the recording / playback unit 733.
  • the video decoder 725 decodes the input video data using, for example, the MPEG system, and outputs the decoded video data to the display converter 730.
  • the recorder control unit 726 supplies the input EPG data to the EPG data memory 727 and stores it.
  • the display converter 730 encodes the video data supplied from the video decoder 725 or the recorder control unit 726 into, for example, NTSC (National Television Standards Committee) video data by the video encoder 741, and outputs the encoded video data to the recording / reproducing unit 733.
  • the display converter 730 converts the screen size of the video data supplied from the video decoder 725 or the recorder control unit 726 into a size corresponding to the size of the monitor 760.
  • the display converter 730 further converts the video data whose screen size has been converted into NTSC video data by the video encoder 741, converts the video data into an analog signal, and outputs the analog signal to the display control unit 732.
  • the display control unit 732 Under the control of the recorder control unit 726, the display control unit 732 superimposes the OSD signal output from the OSD (On Screen Display) control unit 731 on the video signal input from the display converter 730 and displays it on the monitor 760 display. Output and display.
  • OSD On Screen Display
  • the monitor 760 is also supplied with audio data output from the audio decoder 724 after being converted into an analog signal by the D / A converter 734.
  • the monitor 760 outputs this audio signal from a built-in speaker.
  • the recording / playback unit 733 includes a hard disk as a storage medium for recording video data, audio data, and the like.
  • the recording / playback unit 733 encodes the audio data supplied from the audio decoder 724 by the encoder 751 in the MPEG system. Further, the recording / reproducing unit 733 encodes the video data supplied from the video encoder 741 of the display converter 730 by the encoder 751 in the MPEG system. The recording / reproducing unit 733 combines the encoded data of the audio data and the encoded data of the video data with a multiplexer. The recording / reproducing unit 733 amplifies the synthesized data by channel coding and writes the data to the hard disk via the recording head.
  • the recording / reproducing unit 733 reproduces the data recorded on the hard disk via the reproducing head, amplifies it, and separates it into audio data and video data by a demultiplexer.
  • the recording / playback unit 733 uses the decoder 752 to decode the audio data and video data using the MPEG method.
  • the recording / playback unit 733 performs D / A conversion on the decoded audio data, and outputs it to the speaker of the monitor 760.
  • the recording / playback unit 733 performs D / A conversion on the decoded video data and outputs it to the display of the monitor 760.
  • the recorder control unit 726 reads the latest EPG data from the EPG data memory 727 based on the user instruction indicated by the infrared signal from the remote controller received via the receiving unit 721, and supplies it to the OSD control unit 731. To do.
  • the OSD control unit 731 generates image data corresponding to the input EPG data and outputs the image data to the display control unit 732.
  • the display control unit 732 outputs the video data input from the OSD control unit 731 to the display of the monitor 760 for display. As a result, an EPG (electronic program guide) is displayed on the display of the monitor 760.
  • the hard disk recorder 700 can acquire various data such as video data, audio data, or EPG data supplied from other devices via a network such as the Internet.
  • the communication unit 735 is controlled by the recorder control unit 726, acquires encoded data such as video data, audio data, and EPG data transmitted from another device via the network, and supplies the encoded data to the recorder control unit 726. To do.
  • the recorder control unit 726 supplies the acquired encoded data of video data and audio data to the recording / reproducing unit 733 and stores the data in the hard disk.
  • the recorder control unit 726 and the recording / reproducing unit 733 may perform processing such as re-encoding as necessary.
  • the recorder control unit 726 decodes the obtained encoded data of video data and audio data, and supplies the obtained video data to the display converter 730.
  • the display converter 730 processes the video data supplied from the recorder control unit 726 in the same manner as the video data supplied from the video decoder 725, supplies the processed video data to the monitor 760 via the display control unit 732, and displays the image. .
  • the recorder control unit 726 may supply the decoded audio data to the monitor 760 via the D / A converter 734 and output the sound from the speaker.
  • the recorder control unit 726 decodes the encoded data of the acquired EPG data and supplies the decoded EPG data to the EPG data memory 727.
  • the hard disk recorder 700 as described above uses the decoding device 100 as a decoder incorporated in the video decoder 725, the decoder 752, and the recorder control unit 726. Therefore, the video decoder 725, the decoder 752, and the decoder built in the recorder control unit 726 reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of inter prediction, as in the case of the decoding device 100. Can do.
  • the hard disk recorder 700 uses the encoding device 10 as the encoder 751. Therefore, the encoder 751 can reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of the inter prediction as in the case of the encoding device 10.
  • the hard disk recorder 700 that records video data and audio data on the hard disk has been described.
  • any recording medium may be used.
  • the encoding device 10 and the decoding device 100 can be applied as in the case of the hard disk recorder 700 described above. .
  • FIG. 36 is a block diagram illustrating a main configuration example of a camera using an encoding device and a decoding device to which the present invention is applied.
  • the lens block 811 causes light (that is, an image of the subject) to enter the CCD / CMOS 812.
  • the CCD / CMOS 812 is an image sensor using CCD or CMOS, converts the intensity of received light into an electric signal, and supplies it to the camera signal processing unit 813.
  • the camera signal processing unit 813 converts the electrical signal supplied from the CCD / CMOS 812 into Y, Cr, and Cb color difference signals and supplies them to the image signal processing unit 814.
  • the image signal processing unit 814 performs predetermined image processing on the image signal supplied from the camera signal processing unit 813 under the control of the controller 821, and encodes the image signal by the encoder 841 using, for example, the MPEG method. To do.
  • the image signal processing unit 814 supplies encoded data generated by encoding the image signal to the decoder 815. Further, the image signal processing unit 814 acquires display data generated in the on-screen display (OSD) 820 and supplies it to the decoder 815.
  • OSD on-screen display
  • the camera signal processing unit 813 appropriately uses a DRAM (Dynamic Random Access Memory) 818 connected via the bus 817, and appropriately encodes image data and a code obtained by encoding the image data.
  • the digitized data is held in the DRAM 818.
  • the decoder 815 decodes the encoded data supplied from the image signal processing unit 814 and supplies the obtained image data (decoded image data) to the LCD 816. Also, the decoder 815 supplies the display data supplied from the image signal processing unit 814 to the LCD 816. The LCD 816 appropriately synthesizes the image of the decoded image data supplied from the decoder 815 and the image of the display data, and displays the synthesized image.
  • the on-screen display 820 outputs display data such as menu screens and icons made up of symbols, characters, or figures to the image signal processing unit 814 via the bus 817 under the control of the controller 821.
  • the controller 821 executes various processes based on a signal indicating the content instructed by the user using the operation unit 822, and also via the bus 817, an image signal processing unit 814, a DRAM 818, an external interface 819, an on-screen display. 820, media drive 823, and the like are controlled.
  • the FLASH ROM 824 stores programs and data necessary for the controller 821 to execute various processes.
  • the controller 821 can encode the image data stored in the DRAM 818 or decode the encoded data stored in the DRAM 818 instead of the image signal processing unit 814 or the decoder 815.
  • the controller 821 may perform encoding / decoding processing by a method similar to the encoding / decoding method of the image signal processing unit 814 or the decoder 815, or the image signal processing unit 814 or the decoder 815 is compatible.
  • the encoding / decoding process may be performed by a method that is not performed.
  • the controller 821 reads image data from the DRAM 818 and supplies it to the printer 834 connected to the external interface 819 via the bus 817. Let it print.
  • the controller 821 reads the encoded data from the DRAM 818 and supplies it to the recording medium 833 attached to the media drive 823 via the bus 817.
  • the controller 821 reads the encoded data from the DRAM 818 and supplies it to the recording medium 833 attached to the media drive 823 via the bus 817.
  • the recording medium 833 is an arbitrary readable / writable removable medium such as a magnetic disk, a magneto-optical disk, an optical disk, or a semiconductor memory.
  • the recording medium 833 may be of any kind as a removable medium, and may be a tape device, a disk, or a memory card.
  • a non-contact IC card or the like may be used.
  • the media drive 823 and the recording medium 833 may be integrated and configured by a non-portable storage medium such as a built-in hard disk drive or SSD (Solid State Drive).
  • a non-portable storage medium such as a built-in hard disk drive or SSD (Solid State Drive).
  • the external interface 819 is composed of, for example, a USB input / output terminal or the like, and is connected to the printer 834 when printing an image.
  • a drive 831 is connected to the external interface 819 as necessary, and a removable medium 832 such as a magnetic disk, an optical disk, or a magneto-optical disk is appropriately mounted, and a computer program read from these is loaded as necessary. And installed in FLASH ROM 824.
  • the external interface 819 has a network interface connected to a predetermined network such as a LAN or the Internet.
  • the controller 821 can read the encoded data from the DRAM 818 in accordance with an instruction from the operation unit 822, and can supply the encoded data from the external interface 819 to another device connected via the network. Also, the controller 821 acquires encoded data and image data supplied from other devices via the network via the external interface 819 and holds them in the DRAM 818 or supplies them to the image signal processing unit 814. Can be.
  • the camera 800 as described above uses the decoding device 100 as the decoder 815. Therefore, the decoder 815 can reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of inter prediction, as in the case of the decoding device 100.
  • the camera 800 uses the encoding device 10 as the encoder 841. Accordingly, the encoder 841 can reduce the processing amount and the delay amount while suppressing the deterioration of the accuracy of inter prediction, as in the case of the encoding device 10.
  • the decoding method of the decoding device 100 may be applied to the decoding process performed by the controller 821.
  • the encoding method of the encoding device 10 may be applied to the encoding process performed by the controller 821.
  • the image data captured by the camera 800 may be a moving image or a still image.
  • the encoding device 10 and the decoding device 100 can also be applied to devices and systems other than the devices described above.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本発明は、インター予測時に分数精度の動き補償処理を行う場合において、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができる画像処理装置、画像処理方法、およびプログラムに関する。参照画像読出部４１は、インター予測における予測画像の画素の参照画像上の水平方向および垂直方向の位置が、1/2画素位置ではない分数画素位置である場合、直交する2つの斜め方向に並ぶ参照画素を含む所定の参照画素を読み出す。FIRフィルタ４２は、読み出された所定の参照画素を用いて、参照画像の分数位置の画素を予測画像の画素として演算する。本発明は、例えば、H．264/AVC方式で圧縮符号化する符号化装置に適用することができる。

Description

画像処理装置、画像処理方法、およびプログラム
　本発明は、画像処理装置、画像処理方法、およびプログラムに関し、特に、インター予測時に分数精度の動き補償処理を行う場合において、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができるようにした画像処理装置、画像処理方法、およびプログラムに関する。
　画像を圧縮する標準規格として、H．264/MPEG（Moving Picture Experts Group）-4 Part10 Advanced Video Coding（以下H．264/AVCという）がある。
　H.264/AVCにおいては、フレームまたはフィールド間の相関に注目したインター予測が行われる。インター予測では、既に保存されている参照可能な画像内の一部の領域を用いて動き補償処理が行われ、予測画像が生成される。
　近年、この動き補償処理において、動きベクトルの分解能を2分の1または4分の1といった分数精度に向上させることが考えられている。
　このような分数精度の動き補償処理においては、参照画像の隣接する画素の間にSub pelと呼ばれる仮想的な分数位置の画素を設定し、そのSub pelを生成する処理（以下、インターポーレーションという）が追加して行われる（例えば、特許文献１参照）。即ち、分数精度の動き補償処理では、動きベクトルの最小分解能が画素の分数倍になるため、分数位置の画素を生成するためのインターポーレーションが行われる。
　インターポーレーションに用いられるフィルタであるインターポーレーションフィルタ（Interpolation filter(IF)）としては、通常、有限インパルス応答フィルタ(FIR（Finite Impulse Response） Filter)が用いられる。
　例えば、従来のインターポーレーションでは、インターポーレーションフィルタとして6タップのFIRフィルタが用いられる。また、インターポーレーションフィルタの構造には、Non-separable 2D構造とSeparable 2D 構造がある。
　Non-separable 2D構造のインターポーレーションフィルタが用いられる場合、Sub pelごとに6×6画素の整数位置の画素に対して1回の演算が行われることにより、各Sub pelが生成される。この場合、1回の演算でSub pelが生成されるので遅延量は少ないが、タップ数の2乗個の演算を行う必要があるので処理量は大きい。
　一方、separable 2D構造のインターポーレーションフィルタが用いられる場合、水平方向の位置が分数位置であるSub pelを生成するための演算と、垂直方向の位置が分数位置であるSub pelを生成するための演算が別々に行われる。
　例えば、図１に示すような水平方向の位置のみが1/2画素位置であるSub pel bは、Sub pel bと水平方向の位置が同一の位置の斜線が付された正方形で表される整数位置の6画素を用いた演算により生成される。また、垂直方向の位置のみが1/2画素位置であるSub pel hは、Sub pel hと垂直方向の位置が同一の位置の斜線が付された正方形で表される整数位置の6画素を用いた演算により生成される。
　さらに、水平方向および垂直方向の両方の位置が1/2画素位置であるSub pel jは、斜線が付された正方形で表される整数位置の6×6画素を水平方向に並ぶ6画素単位で用いた6回の演算の後、その演算の結果得られるSub pel jと水平方向の位置が同一の位置である6画素を用いた演算が行われることにより生成される。そして、1/4画素位置の画素a，c乃至g，i、およびｋ乃至oは、両隣の画素b,h,jまたは斜線が付された正方形で表される整数位置の画素を用いて生成される。
　なお、図１において、英字が記述されていない正方形は整数位置の画素を表し、英字が記述されている正方形は、その英字のSub pelを表している。このことは、後述する図３においても同様である。
　図１に示したように、従来のインターポーレーションでは、インターポーレーションにより生成されるSub pelの周辺の最大6×6画素が必要である。従って、分数精度の動き補償処理では、動き補償処理の対象となるブロックよりも非常に広い領域の画素が必要になる。
　例えば、図２に示すように、4×4画素のブロックに対して分数精度の動き補償処理が行われる場合、そのブロックに対応する水玉が付された正方形で表される4×4画素と、その4×4画素の外側の斜線が付された正方形で表される画素とを含む9×9画素が必要となる。従って、インター予測時に分数精度の動き補償処理が行われる場合、参照画像を記憶するメモリの帯域の使用量は大きい。
　また、separable 2D構造のインターポーレーションフィルタが用いられる場合、全てのSub pelの生成に6×6画素の整数位置の画素を用いる必要がないので、Non-separable 2D構造のインターポーレーションフィルタに比べて処理量は少なくなるが、演算回数は多くなる。特に、Sub pel jを生成する場合、整数位置の6×6画素を水平方向に並ぶ6画素単位で用いた6回の演算の後、その演算の結果得られる6画素を用いた演算を行う必要があるので、演算回数が多く、遅延量が大きい。
　そこで、インターポーレーションフィルタにおいて、処理量および遅延量を軽減するために、図３に示すように、Sub pel e,g,j,m,oを、斜め方向に並ぶ整数位置の画素を用いた1回の演算で生成する方法が検討されている。
　具体的には、図３に示す方法では、Sub pel eとSub pel oは、大まかな水玉が付された正方形が表す6個の画素を用いた1回の演算で生成される。また、Sub pel gおよびSub pel mは、細かい水玉が付された正方形が表す6個の画素を用いた1回の演算で生成される。さらに、Sub pel jは、大まかな水玉が付された正方形が表す6個の画素と、細かい水玉が付された正方形が表す6個の画素の両方を用いた1回の演算で生成される。
Dmytro Rusanovskyy,Kemal Ugur, Antti Hallapuro,Jani Lainema,and Moncef Gabbouj,Video Coding With Low-Complexity Directional Adaptive Interpolation Filters, IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY,AUGUST 2009,VOL.19,No.8
　図３に示す方法では、Sub pel eのインターポーレーションに斜め方向に並ぶ大まかな水玉が付された正方形が表す6個の画素が用いられるので、その斜め方向に関してはSub pel eの特性は良好である。しかしながら、大まかな水玉が付された正方形が表す6個の画素が並ぶ方向と直交する方向、即ち細かい水玉が付された正方形が表す6個の画素が並ぶ方向に関してはSub pel eの特性が劣化し、その結果インター予測の精度が劣化する。このことは、Sub pel o,g,mについても同様である。
　また、Sub pel jのインターポーレーションには、直交する2つの斜め方向に並ぶ、大まかな水玉が付された正方形が表す6個の画素と、細かい水玉が付された正方形が表すた6個の画素が用いられるので、斜め方向に関してはSub pel jの特性は良好である。しかしながら、水平方向および垂直方向に関してはSub pel jの特性が劣化し、その結果、インター予測の精度が劣化する。
　本発明は、このような状況に鑑みてなされたものであり、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができるようにするものである。
本発明の一側面の画像処理装置は、インター予測における参照画像から所定の画素を読み出す画素読出手段と、前記画素読出手段により読み出された前記所定の画素を用いて、前記参照画像の分数画素位置の画素を前記インター予測における予測画像の画素として演算する演算手段とを備え、前記画素読出手段は、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置ではない分数画素位置である場合、前記参照画像の直交する2つの斜め方向に並ぶ画素を含む前記所定の画素を読み出す画像処理装置である。
　本発明の一側面の画像処理方法およびプログラムは、本発明の一側面の画像処理装置に対応する。
　本発明の一側面においては、インター予測における参照画像から所定の画素が読み出され、読み出された前記所定の画素を用いて、前記参照画像の分数画素位置の画素が前記インター予測における予測画像の画素として演算される。なお、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置ではない分数画素位置である場合、前記所定の画素は、前記参照画像の直交する2つの斜め方向に並ぶ画素を含む。
　本発明によれば、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができる。
Sub pelの生成に用いられる画素の一例を示す図である。 分数精度の動き補償処理が行われる場合の参照画素の範囲を示す図である。 Sub pelの生成に用いられる画素の他の例を示す図である。 本発明を適用した画像処理装置としての符号化装置の一実施の形態の構成例を示すブロック図である。 図４のインター予測部の構成例を示すブロック図である。 Sub pel a,b,cである予測画素の生成に用いられる参照画素の例を示す図である。 Sub pel d,h,lである予測画素の生成に用いられる参照画素の例を示す図である。 Sub pel e,oである予測画素の生成に用いられる参照画素の例を示す図である。 Sub pel e,oの参照画像上の位置から同一の距離の参照画素を示す図である。 Sub pel e,oである予測画素の生成に用いられる参照画素の他の例を示す図である。 Sub pel eである予測画素の生成に用いられる参照画素のさらに他の例を示す図である。 Sub pel oである予測画素の生成に用いられる参照画素のさらに他の例を示す図である。 Sub pel g,mである予測画素の生成に用いられる参照画素の例を示す図である。 Sub pel g,mの参照画像上の位置から同一の距離の参照画素を示す図である。 Sub pel g,mである予測画素の生成に用いられる参照画素の他の例を示す図である。 Sub pel gである予測画素の生成に用いられる参照画素のさらに他の例を示す図である。 Sub pel mである予測画素の生成に用いられる参照画素のさらに他の例を示す図である。 Sub pel jである予測画素の生成に用いられる参照画素の例を示す図である。 Sub pel jの参照画像上の位置から同一の距離の参照画素を示す図である。 Sub pel jである予測画素の生成に用いられる参照画素の他の例を示す図である。 任意の分数位置の予測画素を生成するために必要な参照画素の例を示す図である。 Sub pel eである予測画素の生成に用いられるフィルタ係数の例を示す図である。 Sub pel oである予測画素の生成に用いられるフィルタ係数の例を示す図である。 Sub pel gである予測画素の生成に用いられるフィルタ係数の例を示す図である。 Sub pel mである予測画素の生成に用いられるフィルタ係数の例を示す図である。 Sub pel jである予測画素の生成に用いられるフィルタ係数の例を示す図である。 図４の符号化装置による符号化処理を説明する第１のフローチャートである。 図４の符号化装置による符号化処理を説明する第２のフローチャートである。 インター予測処理の詳細を説明するフローチャートである。 本発明を適用した画像処理装置としての復号装置の構成例を示すブロック図である。 図３０の復号装置による復号処理を説明するフローチャートである。 コンピュータの一実施の形態の構成例を示すブロック図である。 テレビジョン受像機の主な構成例を示すブロック図である。 携帯電話機の主な構成例を示すブロック図である。 ハードディスクレコーダの主な構成例を示すブロック図である。 カメラの主な構成例を示すブロック図である。
　＜一実施の形態＞
　［符号化装置の一実施の形態の構成例］
　図４は、本発明を適用した画像処理装置としての符号化装置の一実施の形態の構成例を示すブロック図である。
　図４の符号化装置１０は、A/D変換部１１、画面並べ替えバッファ１２、演算部１３、直交変換部１４、量子化部１５、可逆符号化部１６、蓄積バッファ１７、逆量子化部１８、逆直交変換部１９、加算部２０、デブロックフィルタ２１、フレームメモリ２２、イントラ予測部２３、インター予測部２４、動き予測部２５、選択部２６、およびレート制御部２７により構成される。図４の符号化装置１０は、入力された画像をH．264/AVC方式で圧縮符号化する。
　具体的には、符号化装置１０のA/D変換部１１は、入力信号として入力されたフレーム単位の画像をA/D変換し、画面並べ替えバッファ１２に出力して記憶させる。画面並べ替えバッファ１２は、記憶した表示の順番のフレーム単位の画像を、GOP（Group of Picture）構造に応じて、符号化のための順番に並べ替え、演算部１３、イントラ予測部２３、および動き予測部２５に出力する。
　演算部１３は、差分演算手段として機能し、選択部２６から供給される予測画像と、画面並べ替えバッファ１２から出力された符号化対象の画像の差分を演算する。具体的には、演算部１３は、画面並べ替えバッファ１２から出力された符号化対象の画像から、選択部２６から供給される予測画像を減算する。演算部１３は、減算の結果得られる画像を、残差情報として直交変換部１４に出力する。なお、選択部２６から予測画像が供給されない場合、演算部１３は、画面並べ替えバッファ１２から読み出された画像をそのまま残差情報として直交変換部１４に出力する。
　直交変換部１４は、演算部１３からの残差情報に対して離散コサイン変換、カルーネン・レーベ変換等の直交変換を施し、その結果得られる係数を量子化部１５に供給する。
　量子化部１５は、直交変換部１４から供給される係数を量子化する。量子化された係数は、可逆符号化部１６に入力される。
　可逆符号化部１６は、最適イントラ予測モードを示す情報（以下、イントラ予測モード情報という）をイントラ予測部２３から取得し、最適インター予測モードを示す情報（以下、インター予測モード情報という）、動きベクトルなどをインター予測部２４から取得する。
　可逆符号化部１６は、量子化部１５から供給される量子化された係数に対して、可変長符号化（例えば、CAVLC（Context-Adaptive Variable Length Coding）など）、算術符号化（例えば、CABAC（Context-Adaptive Binary Arithmetic Coding）など）などの可逆符号化を行い、その結果得られる情報を圧縮画像とする。また、可逆符号化部１６は、イントラ予測モード情報、または、インター予測モード情報および動きベクトルなどを可逆符号化し、その結果得られる情報を圧縮画像に付加されるヘッダ情報とする。可逆符号化部１６は、可逆符号化の結果得られるヘッダ情報が付加された圧縮画像を画像圧縮情報として蓄積バッファ１７に供給し、蓄積させる。
蓄積バッファ１７は、可逆符号化部１６から供給される画像圧縮情報を、一時的に記憶し、例えば、後段の図示せぬ記録装置や伝送路などに出力する。
　また、量子化部１５より出力された、量子化された係数は、逆量子化部１８にも入力され、逆量子化された後、逆直交変換部１９に供給される。
　逆直交変換部１９は、逆量子化部１８から供給される係数に対して、逆離散コサイン変換、逆カルーネン・レーベ変換等の逆直交変換を施し、その結果得られる残差情報を加算部２０に供給する。　
　加算部２０は、加算演算手段として機能し、逆直交変換部１９から供給される復号対象の画像としての残差情報と、選択部２６から供給される予測画像を加算して、局部的に復号された画像を得る。なお、選択部２６から予測画像が供給されない場合、加算部２０は、逆直交変換部１９から供給される残差情報を局部的に復号された画像とする。加算部２０は、局部的に復号された画像をデブロックフィルタ２１に供給するとともに、参照画像としてイントラ予測部２３に供給する。
　デブロックフィルタ２１は、加算部２０から供給される局部的に復号された画像をフィルタリングすることにより、ブロック歪を除去する。デブロックフィルタ２１は、その結果得られる画像をフレームメモリ２２に供給し、蓄積させる。フレームメモリ２２に蓄積された画像は、参照画像としてインター予測部２４および動き予測部２５に出力される。
　イントラ予測部２３は、画面並べ替えバッファ１２から読み出された画像と、加算部２０から供給された参照画像とに基づいて、候補となる全てのイントラ予測モードのイントラ予測を行い、予測画像を生成する。
　また、イントラ予測部２３は、候補となる全てのイントラ予測モードに対してコスト関数値（詳細は後述する）を算出する。そして、イントラ予測部２３は、コスト関数値が最小となるイントラ予測モードを最適イントラ予測モードに決定する。イントラ予測部２３は、最適イントラ予測モードで生成された予測画像、および、対応するコスト関数値を、選択部２６に供給する。イントラ予測部２３は、選択部２６から最適イントラ予測モードで生成された予測画像の選択が通知された場合、イントラ予測モード情報を可逆符号化部１６に供給する。
　なお、コスト関数値は、RD(Rate Distortion)コストともいい、例えば、H．264/AVC方式における参照ソフトウェアであるJM(Joint Model)で定められているような、High Complexity モードか、Low Complexity モードのいずれかの手法に基づいて算出される。
　具体的には、コスト関数値の算出手法としてHigh Complexity モードが採用される場合、候補となる全ての予測モードに対して、仮に可逆符号化までが行われ、次の式（１）で表わされるコスト関数値が各予測モードに対して算出される。
　Cost(Mode)=D＋λ・R　　　　　　　　　　　　　　　　　・・・（１）
　Dは、原画像と復号画像の差分（歪）、Rは、直交変換の係数まで含んだ発生符号量、λは、量子化パラメータQPの関数として与えられるラグランジュ乗数である。
　一方、コスト関数値の算出手法としてLow Complexity モードが採用される場合、候補となる全ての予測モードに対して、復号画像の生成、および、予測モードを示す情報などのヘッダビットの算出が行われ、次の式（２）で表わされるコスト関数が各予測モードに対して算出される。
　Cost(Mode)=D＋QPtoQuant(QP)・Header_Bit　　　　　　　・・・（２）
　Dは、原画像と復号画像の差分（歪）、Header_Bitは、予測モードに対するヘッダビット、QPtoQuantは、量子化パラメータQPの関数として与えられる関数である。
　Low Complexity モードにおいては、全ての予測モードに対して、復号画像を生成するだけでよく、可逆符号化を行う必要がないため、演算量が少なくて済む。なお、ここでは、コスト関数値の算出手法としてHigh Complexity モードが採用されるものとする。
　インター予測部２４は、動き予測部２５から供給されるインター予測モード情報と動きベクトルに基づいて、フレームメモリ２２から参照画像を読み出す。インター予測部２４は、動きベクトルとフレームメモリ２２から読み出された参照画像とに基づいて、インター予測処理を行う。具体的には、インター予測部２４は、動きベクトルに基づいて参照画像に対してインターポーレーションを行うことにより、分数精度の動き補償処理を行う。インター予測部２４は、その結果生成される予測画像と、動き予測部２５から供給されるコスト関数値とを選択部２６に供給する。また、インター予測部２４は、選択部２６から最適インター予測モードで生成された予測画像の選択が通知された場合、インター予測モード情報、対応する動きベクトルなどを可逆符号化部１６に出力する。
　動き予測部２５は、画面並べ替えバッファ１２から供給される画像と、フレームメモリ２２から供給される参照画像とに基づいて、候補となる全てのインター予測モードの動き予測処理を行い、分数精度の動きベクトルを生成する。具体的には、動き予測部２５は、インター予測モードごとに、参照画像に対してインター予測部２４と同様の手法でインターポーレーションを行う。そして、動き予測部２５は、インター予測モードごとに、インターポーレーション後の参照画像と、画面並べ替えバッファ１２から供給される画像とのマッチングを行い、分数精度の動きベクトルを生成する。本実施の形態では、インターポーレーションにより1/2画素位置および1/4画素位置のSub pelが生成され、動きベクトルの精度は、1/4画素精度であるものとする。
　このとき、動き予測部２５は、候補となる全てのインター予測モードに対してコスト関数値を算出し、コスト関数値が最小となるインター予測モードを最適インター測モードに決定する。そして、動き予測部２５は、インター予測モード情報、並びに、対応する動きベクトルおよびコスト関数値をインター予測部２４に供給する。
　なお、インター予測モードとは、インター予測の対象とするブロックのサイズ、予測方向、および参照インデックスを表す情報である。インター予測の対象とするブロックのサイズとしては、4×4画素、8×8画素、16×16画素、32×32画素、64×64画素といった正方形のサイズや、4×8画素、8×4画素、8×16画素、16×8画素、16×32画素、32×16画素、32×64画素、64×32画素といった長方形のサイズなどがある。予測方向には、インター予測の対象とする画像よりも表示時刻が早い参照画像を用いた前方向の予測（L0予測）と、インター予測の対象とする画像よりも表示時刻が遅い参照画像を用いた後方向の予測（L1予測）がある。また、参照インデックスとは、参照画像を特定するための番号であり、例えば、インター予測の対象とする画像に近い画像の参照インデックスほど番号が小さい。
　選択部２６は、イントラ予測部２３およびインター予測部２４から供給されるコスト関数値に基づいて、最適イントラ予測モードと最適インター予測モードのうちのいずれかを、最適予測モードに決定する。そして、選択部２６は、最適予測モードの予測画像を、演算部１３および加算部２０に供給する。また、選択部２６は、最適予測モードの予測画像の選択をイントラ予測部２３またはインター予測部２４に通知する。
　レート制御部２７は、蓄積バッファ１７に蓄積された画像圧縮情報に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１５の量子化動作のレートを制御する。
　［インター予測部の構成例］
　図５は、図４のインター予測部２４の構成例を示すブロック図である。
　なお、図５では、説明の便宜上、インター予測部２４のインター予測処理を行うブロックのみが図示されており、コスト関数値、インター予測モード情報、動きベクトルなどを出力するブロックは省略されている。
　図５において、インター予測部２４は、参照画像読出部４１、FIRフィルタ４２、およびフィルタ係数メモリ４３により構成される。
　インター予測部２４の参照画像読出部４１は、図４の動き予測部２５から供給されるインター予測モード情報のうちの参照インデックスおよび予測方向に基づいて、フレームメモリ２２に記憶されている画像のうちの参照画像を特定する。参照画像読出部４１は、インター予測モード情報のうちのブロックのサイズと動きベクトルの整数値に基づいて、予測画像の生成に用いられる参照画像の画素（以下、参照画素という）をフレームメモリ２２から読み出し、一時的に保持する。
　参照画像読出部４１は、画素読出手段として機能する。参照画像読出部４１は、予測画像の画素（以下、予測画素という）ごとに、一時的に保持されている参照画素のうち、その予測画素の生成に用いられる参照画素を読み出す。参照画像読出部４１は、読みされた参照画素をFIRフィルタ４２に供給する。
　FIRフィルタ４２は、演算手段として機能し、参照画像読出部４１から供給される参照画素と、フィルタ係数メモリ４３から供給されるフィルタ係数を用いて演算を行う。具体的には、FIRフィルタ４２は、各参照画素と、その参照画素に対するフィルタ係数を乗算し、その結果得られる乗算値とオフセット値を加算する演算を行う。FIRフィルタ４２は、予測画素の参照画像上の位置に応じて、演算の結果得られる1個の画素を予測画素として選択部２６（図４）に供給するか、複数回の演算の結果得られる複数の画素に対して所定の演算を行い、その結果得られる1個の画素を予測画素として選択部２６に供給する。
　フィルタ係数メモリ４３は、動きベクトルの分数値に対応付けて各参照画素に対するフィルタ係数を記憶している。フィルタ係数メモリ４３は、図４の動き予測部２５から供給される動きベクトルの分数値に基づいて、その分数値に対応付けて記憶されている各参照画素に対するフィルタ係数をFIRフィルタ４２に供給する。
　［参照画素の説明］
　図６乃至図２０は、予測画素の生成に用いられる参照画素の例を説明する図である。
　なお、図６乃至図２０において、英字が付された正方形はSub Pelを表し、英字が付されていない正方形は参照画素を表す。また、水玉が付されている正方形は予測画素の生成に用いられる参照画素を表している。さらに、実線の円は、予測画素の生成に用いられる参照画素を囲んだものであり、点線の円は、その円で囲まれた英字が付されていない正方形が表す参照画素が、従来の図３の方法で予測画素の生成に用いられる参照画素であることを表している。
　図６は、垂直方向の位置が整数位置であり、水平方向の位置が分数位置である予測画素の生成に用いられる参照画素の例を示す図である。
　図６に示すように、予測画素が、垂直方向の位置が整数位置であり、水平方向の位置が分数位置であるSub pel a,b,cである場合、実線の内側の円で囲まれた大まかな水玉が付された正方形が表す8個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel a,b,cの左右に2個ずつ隣接する4個の参照画素と、その参照画素を除く、Sub pel a,b,c を挟む垂直方向の2ラインのSub pel a,b,cに近い順の4個の参照画素とが予測画素の生成に用いられる。
　なお、Sub pel a,b,cの生成には、図６の細かい水玉が付された正方形が表す4個の参照画素をさらに含む、実線の外側の円で囲まれた水玉が付された正方形が表す、Sub pel a,b,cを中心とする4×3参照画素が用いられるようにしてもよい。
　以上のように、図４の符号化装置１０では、予測画素が、垂直方向の位置が整数位置であり、水平方向の位置が分数位置であるSub pel a,b,cである場合、水平方向に並ぶ参照画素だけでなく、垂直方向に並ぶ参照画素も用いて予測画素が生成される。従って、予測画素の水平方向および垂直方向の特性を良好にすることができる。
　これに対して、従来の図３の方法における参照画素は、図６の点線で囲まれた正方形が表す、Sub pel a,b,cの左右に3個ずつ位置する6個の参照画素であり、従来の図３の方法では、垂直方向に並ぶ参照画素が用いられない。従って、予測画素の垂直方向の特性は良くない。
　また、FIRフィルタ４２がSIMD（Single Instruction Multiple Data）演算を行う場合、図６に示したようにSub pel a,b,cの生成に用いられる参照画素の数が2のべき乗である8個であると、演算を効率的に行うことができる。
　さらに、図６の実線で囲まれた水玉が付された正方形が表す参照画素の位置は、図６の点線で囲まれた正方形が表す従来の図３の方法における参照画素に比べて、Sub pel a,b,cに近い。
　図７は、水平方向の位置が整数位置であり、垂直方向の位置が分数位置である予測画素の生成に用いられる参照画素の例を示す図である。
　図７に示すように、予測画素が、水平方向の位置が整数位置であり、垂直方向の位置が分数位置であるSub pel d,h,lである場合、実線の内側の円で囲まれた大まかな水玉が付された正方形が表す8個の参照画素が予測画素の生成に用いられる。具体的には、Sub pel d,h,lの上下をに2個ずつ位置する4個の参照画素と、その参照画素を除く、Sub pel d,h,lを挟む水平方向の2ラインのSub pel d,h,lに近い順の4個の参照画素とが予測画素の生成に用いられる。
　なお、Sub pel d,h,lの生成には、図７の細かい水玉が付された正方形が表す4個の参照画素をさらに含む、実線の外側の円で囲まれた水玉が付された正方形が表す、Sub pel d,h,lを中心とする3×4参照画素が用いられるようにしてもよい。
　以上のように、符号化装置１０では、予測画素が、水平方向の位置が整数位置であり、垂直方向の位置が分数位置であるSub pel d,h,lである場合、垂直方向に並ぶ参照画素だけでなく、水平方向に並ぶ参照画素も用いて予測画素が生成される。従って、予測画素の垂直方向および水平方向の特性を良好にすることができる。
　これに対して、従来の図３の方法における参照画素は、図７の点線で囲まれた正方形が表す、Sub pel d,h,lの上下に3個ずつ位置する6個の参照画素であり、従来の図３の方法では、水平方向に並ぶ参照画素が用いられない。従って、予測画素の水平方向の特性は良くない。
　また、FIRフィルタ４２がSIMD演算を行う場合、図７に示したようにSub pel d,h,lの生成に用いられる参照画素の数が2のべき乗である8個であると、演算を効率的に行うことができる。
　さらに、図７の実線で囲まれた水玉が付された正方形が表す参照画素の位置は、図７の点線で囲まれた正方形が表す従来の図３の方法における参照画素に比べて、Sub pel d,h,lに近い。
　図８は、水平方向および垂直方向の位置が1/4画素位置である左上および右下の予測画素の生成に用いられる参照画素の例を示す図である。
　図８に示すように、予測画素が、水平方向および垂直方向の位置が1/4画素位置である左上および右下のSub pel e,oである場合、実線の円で囲まれた大まかな水玉が付された正方形が表す6個の参照画素が予測画素の生成に用いられる。具体的には、Sub pel e,oが並ぶ斜め方向に並ぶSub pel e,oに近い順の4個の参照画素と、その斜め方向と直交する方向に並ぶSub pel e,oに近い順の2個の参照画素とが予測画素の生成に用いられる。
　このように、符号化装置１０では、予測画素が、水平方向および垂直方向の位置が1/4画素位置である左上および右下のSub pel e,oである場合、Sub pel e,o が並ぶ斜め方向に並ぶ参照画素だけでなく、その方向に直交する方向に並ぶ参照画素も用いて予測画素が生成される。従って、予測画素の斜め方向の特性を良好にすることができる。
　これに対して、従来の図３の方法における参照画素は、図８の点線で囲まれた正方形が表す、Sub pel e,oを中心とするSub pel e,oが並ぶ斜め方向に並ぶ6個の参照画素であり、従来の図３の方法では、その斜め方向に直交する方向に並ぶ参照画素が用いられない。従って、Sub pel e,oが並ぶ斜め方向に直交する方向の予測画素の特性が、従来のSeparable 2D 構造のインターポーレーションフィルタが用いられる場合に比べて劣化する。
　また、図９に示すように、Sub pel e,oが並ぶ斜め方向に直交する方向に並ぶSub pel e,oに近い順の2個の参照画素は、Sub pel e,oの参照画像上の位置からの距離が等しい。従って、この2個の参照画素に対するフィルタ係数は対照性により同一となる。よって、図５のFIRフィルタ４２は、この2個の参照画素について、参照画素を加算した後にフィルタ係数を乗算することができる。その結果、乗算回数を削減することができる。
　図１０は、水平方向および垂直方向の位置が1/4画素位置である左上および右下の予測画素の生成に用いられる参照画素の他の例を示す図である。
　図１０の例では、予測画素が、水平方向および垂直方向の位置が1/4画素位置である左上および右下のSub pel e,oである場合、図８の例の6個の参照画素と、図１０の細かい水玉が付された正方形が表す4個の参照画素からなる、実線の外側の円で囲まれた水玉が付された正方形が表す10個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel e,oが並ぶ斜め方向に並ぶSub pel e,oに近い順の4個の参照画素と、その斜め方向と直交する3方向に2個ずつ並ぶSub pel e,oに近い順の合計6個の参照画素とが、予測画素の生成に用いられる。
　図１１は、予測画素がSub pel eである場合の予測画素の生成に用いられる参照画素のさらに他の例を示す図である。
　図１１の例では、予測画素がSub pel eである場合、図８の例の6個の参照画素と、図１１の細かい水玉が付された正方形が表す2個の参照画素からなる、実線の外側の円で囲まれた水玉が付された正方形が表す8個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel e,oが並ぶ斜め方向に並ぶSub pel eに近い順の4個の参照画素と、その斜め方向と直交する2方向に2個ずつ並ぶSub pel eに近い順の合計4個の参照画素とが、予測画素の生成に用いられる。
　図１２は、予測画素がSub pel oである場合の予測画素の生成に用いられる参照画素のさらに他の例を示す図である。
　図１２の例では、予測画素がSub pel oである場合、図８の例の6個の参照画素と、図１２の細かい水玉が付された正方形が表す2個の参照画素からなる、実線の外側の円で囲まれた水玉が付された正方形が表す8個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel e,oが並ぶ斜め方向に並ぶSub pel oに近い順の4個の参照画素と、その斜め方向と直交する2方向に2個ずつ並ぶSub pel oに近い順の合計4個の参照画素とが、予測画素の生成に用いられる。
　FIRフィルタ４２がSIMD演算を行う場合、図１１および図１２に示したようにSub pel e,oの生成に用いられる参照画素の数が2のべき乗である8個であると、演算を効率的に行うことができる。
　さらに、図８や図１０乃至図１２の実線で囲まれた水玉が付された正方形が表す参照画素の位置は、図８や図１０乃至図１２の点線で囲まれた正方形が表す従来の図３の方法における参照画素に比べて、Sub pel e,oに近い。
　図１３は、水平方向および垂直方向の位置が1/4画素位置である右上および左下の予測画素の生成に用いられる参照画素の例を示す図である。
　図１３に示すように、予測画素が、水平方向および垂直方向の位置が1/4画素位置である右上および左下のSub pel g,mである場合、実線の円で囲まれた大まかな水玉が付された正方形が表す6個の参照画素が予測画素の生成に用いられる。具体的には、Sub pel g,m が並ぶ斜め方向に並ぶSub pel g,mに近い順の4個の参照画素と、その斜め方向と直交する方向に並ぶSub pel g,mに近い順の2個の参照画素とが予測画素の生成に用いられる。
　このように、符号化装置１０では、予測画素が、水平方向および垂直方向の位置が1/4画素位置である右上および左下のSub pel g,mである場合、Sub pel g,m が並ぶ斜め方向に並ぶ参照画素だけでなく、その方向に直交する方向に並ぶ参照画素も用いて予測画素が生成される。従って、予測画素の斜め方向の特性を良好にすることができる。
　これに対して、従来の図３の方法における参照画素は、図１３の点線で囲まれた正方形が表す、Sub pel g,mを中心とするSub pel g,mが並ぶ斜め方向に並ぶ6個の参照画素であり、従来の図３の方法では、その斜め方向に直交する方向に並ぶ参照画素が用いられない。従って、Sub pel g,mが並ぶ斜め方向に直交する方向の予測画素の特性が、従来のSeparable 2D 構造のインターポーレーションフィルタが用いられる場合に比べて劣化する。
　また、図１４に示すように、Sub pel g,mが並ぶ斜め方向に直交する方向に並ぶSub pel g,mに近い順の2個の参照画素は、Sub pel g,mの参照画像上の位置からの距離が等しい。従って、この2個の参照画素に対するフィルタ係数は対照性により同一となる。よって、FIRフィルタ４２は、この2個の参照画素について、参照画素を加算した後にフィルタ係数を乗算することができる。その結果、乗算回数を削減することができる。
　図１５は、水平方向および垂直方向の位置が1/4画素位置である右上および左下の予測画素の生成に用いられる参照画素の他の例を示す図である。
　図１５の例では、予測画素が、水平方向および垂直方向の位置が1/4画素位置である右上および左下のSub pel g,mである場合、図１３の例の6個の参照画素と、図１５の細かい水玉が付された正方形が表す4個の参照画素からなる、実線の外側の円で囲まれた水玉が付された正方形が表す10個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel g,mが並ぶ斜め方向に並ぶSub pel g,mに近い順の4個の参照画素と、その斜め方向と直交する3方向に2個ずつ並ぶSub pel g,mに近い順の合計6個の参照画素とが、予測画素の生成に用いられる。
　図１６は、予測画素がSub pel gである場合の予測画素の生成に用いられる参照画素のさらに他の例を示す図である。
　図１６の例では、予測画素がSub pel gである場合、図１３の例の6個の参照画素と、図１６の細かい水玉が付された正方形が表す2個の参照画素からなる、実線の外側の円で囲まれた水玉が付された正方形が表す8個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel g,mが並ぶ斜め方向に並ぶSub pel gに近い順の4個の参照画素と、その斜め方向と直交する2方向に2個ずつ並ぶSub pel gに近い順の合計4個の参照画素とが、予測画素の生成に用いられる。
　図１７は、予測画素がSub pel mである場合の予測画素の生成に用いられる参照画素のさらに他の例を示す図である。
　図１７の例では、予測画素がSub pel mである場合、図１３の例の6個の参照画素と、図１７の細かい水玉が付された正方形が表す2個の参照画素からなる、実線の外側の円で囲まれた水玉が付された正方形が表す8個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel g,mが並ぶ斜め方向に並ぶSub pel mに近い順の4個の参照画素と、その斜め方向と直交する2方向に2個ずつ並ぶSub pel mに近い順の合計4個の参照画素とが、予測画素の生成に用いられる。
　FIRフィルタ４２がSIMD演算を行う場合、図１６および図１７に示したようにSub pel g,mの生成に用いられる参照画素の数が2のべき乗である8個であると、演算を効率的に行うことができる。
　さらに、図１３や図１５乃至図１７の実線で囲まれた水玉が付された正方形が表す参照画素の位置は、図１３や図１５乃至図１７の点線で囲まれた正方形が表す従来の図３の方法における参照画素に比べて、Sub pel g,mに近い。
　図１８は、水平方向および垂直方向の位置が1/2画素位置である予測画素の生成に用いられる参照画素の例を示す図である。
　図１８に示すように、予測画素が、水平方向および垂直方向の位置が1/2画素位置であるSub pel jである場合、実線の円で囲まれた大まかな水玉が付された正方形が表す12個の参照画素が予測画素の生成に用いられる。具体的には、Sub pel jを挟む水平方向の2ラインのSub pel j に近い順の8個の参照画素と、その参照画素を除く、Sub pel jを挟む垂直方向に並ぶ2ラインのSub pel j に近い順の4個の参照画素とが予測画素の生成に用いられる。
　このように、符号化装置１０では、予測画素が、水平方向および垂直方向の位置が1/2画素位置であるSub pel jである場合、Sub pel jの位置で直交する2つの斜め方向に位置する参照画素だけでなく、Sub pel jを挟んで水平方向および垂直方向に並ぶ参照画素も用いて予測画素が生成される。従って、予測画素の特性を良好にすることができる。
　これに対して、従来の図３の方法における参照画素は、図１８の点線で囲まれた正方形が表す、Sub pel jを中心として直交する2つの斜め方向に6個ずつ並ぶ合計12個の参照画素であり、従来の図３の方法では、水平方向および垂直方向に並ぶ参照画素が用いられない。従って、水平方向および垂直方向の予測画素の特性が、従来のSeparable 2D 構造のインターポーレーションフィルタが用いられる場合に比べて劣化する。
　また、図１９に示すように、Sub pel jから最も近い2×2参照画素は、Sub pel jの参照画像上の位置からの距離が等しい。また、その2×2参照画素以外のSub pel jから2番目に近い8個の参照画素も、Sub pel jの参照画像上の位置からの距離が等しい。従って、2×2参照画素どうし、および、その参照画素以外の8個の参照画素どうしのフィルタ係数は対照性により同一となる。よって、FIRフィルタ４２は、この2×2参照画素、および、その参照画素以外の8個の参照画素について、それぞれ、参照画素を加算した後にフィルタ係数を乗算することができる。その結果、乗算回数を削減することができる。
　図２０は、水平方向および垂直方向の位置が1/2画素位置である予測画素の生成に用いられる参照画素の他の例を示す図である。
　図２０の例では、予測画素が、水平方向および垂直方向の位置が1/2画素位置であるSub pel jである場合、図１８の例の12個の参照画素と、図２０の細かい水玉が付された正方形が表す4個の参照画素からなる、実線の外側の円で囲まれた水玉が付された正方形が表す16個の参照画素が、予測画素の生成に用いられる。具体的には、Sub pel jを中心とする4×4参照画素が、予測画素の生成に用いられる。
　FIRフィルタ４２がSIMD演算を行う場合、図２０に示したようにSub pel jの生成に用いられる参照画素の数が2のべき乗である16個であると、演算を効率的に行うことができる。
　また、図１８や図２０の実線で囲まれた水玉が付された正方形が表す参照画素の位置は、図１８や図２０の点線で囲まれた正方形が表す従来の図３の方法における参照画素に比べて、Sub pel jに近い。
　図２１は、インター予測ブロックのブロックサイズが4×４画素である場合に、任意の分数位置の予測画素を生成するために必要な参照画素の例を示す図である。
　なお、図２１において、正方形は参照画素を表している。また、水玉が付されている正方形は、予測画素の生成に用いられる参照画素のうちのインター予測のブロックのサイズの範囲内の参照画素を表し、斜線が付されている正方形は、インター予測のブロックのサイズの範囲を超えた範囲の参照画素を表している。
　図２１の例では、Sub pel a乃至e,g,h,j,l,m,oが、図６乃至図２０で説明した参照画素を用いて生成され、Sub pel f,i,k,nは、隣接するSub pelを用いて生成される。
　この場合、図２１に示すように、任意の分数位置の予測画素を生成するために必要な参照画素の範囲は、インター予測のブロックのサイズである4×4画素の範囲と、その範囲の左隣および真上の1画素分と右隣および真下の2画素分の範囲の7×7画素となる。
　このように、図６乃至図２０で説明した参照画素は、従来の図３の方法における参照画素に比べて、より予測画素に近い位置にあるため、従来の図３の方法に比べて、任意の分数位置の予測画素を生成するために必要な参照画素の数は少なくて済む。その結果、フレームメモリ２２のメモリ帯域の使用量を削減することができる。
　これに対して、従来の図３の方法の場合、任意の分数位置の予測画素を生成するために必要な参照画素の範囲は、図２に示した場合と同様の9×9画素となる。そして、実際には、フレームメモリへのアクセスは１画素単位で行うことは困難であるため、メモリ帯域の使用量は9×9画素より大きい。
　［フィルタ係数の例］
　図２２乃至図２６は、図５のFIRフィルタ４２に記憶されるフィルタ係数の例を示す図である。
　図２２に示すように、Sub pel eである予測画素の生成に用いられるフィルタ係数は、最も近い参照画素（以下、直近参照画素という）に対するフィルタ係数、直近参照画素の右隣および真下の参照画素に対するフィルタ係数、直近参照画素の右下の参照画素に対するフィルタ係数、その参照画素の右下の参照画素に対するフィルタ係数、直近参照画素の左上の参照画素に対するフィルタ係数の順に大きい。図２２の例では、直近参照画素に対するフィルタ係数が122であり、直近参照画素の右隣および真下の参照画素に対するフィルタ係数が64である。また、直近参照画素の右下の参照画素に対するフィルタ係数が17であり、その参照画素の右下の参照画素に対するフィルタ係数が-4であり、直近参照画素の左上の参照画素に対するフィルタ係数が-7である。
　図２３に示すように、Sub pel oである予測画素の生成に用いられるフィルタ係数は、直近参照画素に対するフィルタ係数、直近参照画素の左隣および真上の参照画素に対するフィルタ係数、直近参照画素の左上の参照画素に対するフィルタ係数、その参照画素の左上の参照画素に対するフィルタ係数、直近参照画素の右下の参照画素に対するフィルタ係数の順に大きい。図２３の例では、直近参照画素に対するフィルタ係数が122であり、直近参照画素の左隣および真上の参照画素に対するフィルタ係数が64である。また、直近参照画素の左上の参照画素に対するフィルタ係数が17であり、その参照画素の左上の参照画素に対するフィルタ係数が-4であり、直近参照画素の右下の参照画素に対するフィルタ係数が-7である。
　図２４に示すように、Sub pel gである予測画素の生成に用いられるフィルタ係数は、直近参照画素に対するフィルタ係数、直近参照画素の左隣および真下の参照画素に対するフィルタ係数、直近参照画素の左下の参照画素に対するフィルタ係数、その参照画素の左下の参照画素に対するフィルタ係数、直近参照画素の右上の参照画素に対するフィルタ係数の順に大きい。図２４の例では、直近参照画素に対するフィルタ係数が122であり、直近参照画素の左隣および真下の参照画素に対するフィルタ係数が64である。また、直近参照画素の左下の参照画素に対するフィルタ係数が17であり、その参照画素の左下の参照画素に対するフィルタ係数が-4であり、直近参照画素の右上の参照画素に対するフィルタ係数が-7である。
　図２５に示すように、Sub pel mである予測画素の生成に用いられるフィルタ係数は、直近参照画素に対するフィルタ係数、直近参照画素の右隣および真上の参照画素に対するフィルタ係数、直近参照画素の右上の参照画素に対するフィルタ係数、その参照画素の右上の参照画素に対するフィルタ係数、直近参照画素の左下の参照画素に対するフィルタ係数の順に大きい。図２５の例では、直近参照画素に対するフィルタ係数が122であり、直近参照画素の右隣および真上の参照画素に対するフィルタ係数が64である。また、直近参照画素の右上の参照画素に対するフィルタ係数が17であり、その参照画素の右上の参照画素に対するフィルタ係数が-4であり、直近参照画素の左下の参照画素に対するフィルタ係数が-7である。
　図２６に示すように、Sub pel jである予測画素の生成に用いられるフィルタ係数は、Sub pel jに近い順に大きい。具体的には、直近参照画素に対するフィルタ係数、その参照画素以外の参照画素に対するフィルタ係数の順に大きい。図２２の例では、直近参照画素に対するフィルタ係数が48であり、その参照画素以外の参照画素に対するフィルタ係数が8である。
　なお、図２２乃至図２６に示したフィルタ係数は、FIRフィルタ４２による演算を簡単にするために実際のフィルタ係数を256倍にしたものである。従って、図２２乃至図２６に示したフィルタ係数がフィルタ係数メモリ４３に記憶されている場合には、FIRフィルタ４２は、以下の式（３）により、各参照画素に対するフィルタ係数と各参照画素を乗算し、その結果得られる乗算値とオフセット値を加算した後、256で除算する。
Figure JPOXMLDOC01-appb-M000001
　なお、式（３）において、Yは、予測画素を表し、hｉはi番目の参照画素に対するフィルタ係数を表し、Pｉはi番目の参照画素を表している。また、128はオフセット値である。
　［符号化装置の処理の説明］
　図２７および図２８は、図４の符号化装置１０による符号化処理を説明するフローチャートである。この符号化処理は、例えば、入力信号としてフレーム単位の画像が符号化装置１０に入力されるたびに行われる。
　図２７のステップＳ１１において、符号化装置１０のA/D変換部１１は、入力信号として入力されたフレーム単位の画像をA/D変換し、画面並べ替えバッファ１２に出力して記憶させる。
　ステップＳ１２において、画面並べ替えバッファ１２は、記憶した表示の順番のフレームの画像を、GOP構造に応じて、符号化のための順番に並べ替える。画面並べ替えバッファ１２は、並べ替え後のフレーム単位の画像を、演算部１３、イントラ予測部２３、および動き予測部２５に供給する。
　なお、以下のステップＳ１３乃至Ｓ３０の処理は、例えばマクロブロック単位で行われる。但し、先頭フレームの先頭のマクロブロックの処理時には、参照画像が存在しないため、ステップＳ１３乃至Ｓ２０およびＳ２８の処理は行われず、先頭フレームの画像が残差情報および局部的に復号された画像とされる。
　ステップＳ１３において、イントラ予測部２３は、画面並べ替えバッファ１２から供給される画像と、加算部２０から供給される参照画像とに基づいて、候補となる全てのイントラ予測モードのイントラ予測を行い、予測画像を生成する。また、イントラ予測部２３は、候補となる全てのイントラ予測モードに対してコスト関数値を算出する。そして、イントラ予測部２３は、コスト関数値が最小となるイントラ予測モードを最適イントラ予測モードに決定する。イントラ予測部２３は、最適イントラ予測モードで生成された予測画像、および、対応するコスト関数値を、選択部２６に供給する。
　ステップＳ１４において、動き予測部２５は、画面並べ替えバッファ１２から供給される画像に対して、フレームメモリ２２から供給される参照画像を用いて、候補となる全てのインター予測モードの動き予測処理を行い、分数精度の動きベクトルを生成する。また、動き予測部２５は、候補となる全てのインター予測モードに対してコスト関数値を算出し、コスト関数値が最小となるインター予測モードを最適インター測モードに決定する。そして、動き予測部２５は、インター予測モード情報、並びに、対応する動きベクトルおよびコスト関数値をインター予測部２４に供給する。
　ステップＳ１５において、インター予測部２４は、動き予測部２５から供給される動きベクトルとインター予測モード情報に基づいてインター予測処理を行う。このインター予測処理の詳細は、後述する図２９を参照して説明する。インター予測部２４は、インター予測処理の結果生成される予測画像と、動き予測部２５から供給されるコスト関数値とを選択部２６に供給する。
　ステップＳ１６において、選択部２６は、イントラ予測部２３およびインター予測部２４から供給されるコスト関数値に基づいて、最適イントラ予測モードと最適インター予測モードのうちのコスト関数値が最小となる方を、最適予測モードに決定する。そして、選択部２６は、最適予測モードの予測画像を、演算部１３および加算部２０に供給する。
　ステップＳ１７において、選択部２６は、最適予測モードが最適インター予測モードであるかどうかを判定する。ステップＳ１７で最適予測モードが最適インター予測モードであると判定された場合、選択部２６は、最適インター予測モードで生成された予測画像の選択をインター予測部２４に通知する。これにより、インター予測部２４は、インター予測モード情報、対応する動きベクトルなどを可逆符号化部１６に出力する。
　そして、ステップＳ１８において、可逆符号化部１６は、インター予測部２４から供給されるインター予測モード情報、動きベクトルなどを可逆符号化し、その結果得られる情報を圧縮画像に付加されるヘッダ情報とする。そして、処理はステップＳ２０に進む。
　一方、ステップＳ１７で最適予測モードが最適インター予測モードではないと判定された場合、即ち最適予測モードが最適イントラ予測モードである場合、選択部２６は、最適イントラ予測モードで生成された予測画像の選択をイントラ予測部２３に通知する。これにより、イントラ予測部２３は、イントラ予測モード情報を可逆符号化部１６に供給する。
　そして、ステップＳ１９において、可逆符号化部１６は、イントラ予測部２３から供給されるイントラ予測モード情報などを可逆符号化し、その結果得られる情報を圧縮画像に付加されるヘッダ情報とする。そして、処理はステップＳ２０に進む。
　ステップＳ２０において、演算部１３は、画面並べ替えバッファ１２から供給される画像から、選択部２６から供給される予測画像を減算する。演算部１３は、減算の結果得られる画像を、残差情報として直交変換部１４に出力する。
　ステップＳ２１において、直交変換部１４は、演算部１３からの残差情報に対して直交変換を施し、その結果得られる係数を量子化部１５に供給する。
　ステップＳ２２において、量子化部１５は、直交変換部１４から供給される係数を量子化する。量子化された係数は、可逆符号化部１６と逆量子化部１８に入力される。
　ステップＳ２３において、可逆符号化部１６は、量子化部１５から供給される量子化された係数を可逆符号化し、その結果得られる情報を圧縮画像とする。そして、可逆符号化部１６は、ステップＳ１８またはＳ１９の処理で生成されたヘッダ情報を圧縮画像に付加し、画像圧縮情報を生成する。
　図２８のステップＳ２４において、可逆符号化部１６は、画像圧縮情報を蓄積バッファ１７に供給し、蓄積させる。
　ステップＳ２５において、蓄積バッファ１７は、蓄積されている画像圧縮情報を、例えば、後段の図示せぬ記録装置や伝送路などに出力する。
　ステップＳ２６において、逆量子化部１８は、量子化部１５から供給される量子化された係数を逆量子化する。
　ステップＳ２７において、逆直交変換部１９は、逆量子化部１８から供給される係数に対して逆直交変換を施し、その結果得られる残差情報を加算部２０に供給する。
　ステップＳ２８において、加算部２０は、逆直交変換部１９から供給される残差情報と、選択部２６から供給される予測画像を加算し、局部的に復号された画像を得る。加算部２０は、得られた画像をデブロックフィルタ２１に供給するとともに、参照画像としてイントラ予測部２３に供給する。
　ステップＳ２９において、デブロックフィルタ２１は、加算部２０から供給される局部的に復号された画像に対してフィルタリングを行うことにより、ブロック歪を除去する。
　ステップＳ３０において、デブロックフィルタ２１は、フィルタリング後の画像をフレームメモリ２２に供給し、蓄積させる。フレームメモリ２２に蓄積された画像は、参照画像としてインター予測部２４および動き予測部２５に出力される。そして、処理は終了する。
　図２９は、図２７のステップＳ１５のインター予測処理の詳細を説明するフローチャートである。
　図２９のステップＳ５０において、インター予測部２４の参照画像読出部４１（図５）は、図４の動き予測部２５から供給されるインター予測モード情報のうちの予測方向と参照インデックスに基づいて、フレームメモリ２２に記憶されている画像のうちの参照画像を特定する。
　ステップＳ５１において、参照画像読出部４１は、インター予測モード情報のうちのインター予測のブロックのサイズに基づいて、予測画像のサイズを決定する。
　ステップＳ５２において、参照画像読出部４１は、インター予測モード情報のうちの動きベクトルの整数値および予測画像のサイズに基づいて、その予測画像の生成に用いられる参照画素をフレームメモリ２２から読み出し、一時的に保持する。
　ステップＳ５３において、参照画像読出部４１は、予測画像を構成する予測画素のうち、まだステップＳ５３の処理で生成対象の予測画素に決定されていない予測画素を生成対象の予測画素に決定する。
　ステップＳ５４において、参照画像読出部４１は、生成対象の予測画素の参照画像上の位置に基づいて、ステップＳ５２で読み出された参照画素のうちの、予測画素の生成に用いられる参照画素をFIRフィルタ４２に供給する。
　ステップＳ５５において、フィルタ係数メモリ４３は、図４の動き予測部２５から供給される動きベクトルの分数値に基づいて、その分数値に対応付けて記憶されているフィルタ係数を読み出し、FIRフィルタ４２に供給する。
　ステップＳ５６において、FIRフィルタ４２は、参照画像読出部４１から供給される参照画素とフィルタ係数を用いて演算を行う。
　ステップＳ５７において、FIRフィルタ４２は、生成対象の予測画素がSub pel f,i,k,nであるかどうかを判定する。ステップＳ５７で生成対象の予測画素がSub pel f,i,k,nであると判定された場合、処理はステップＳ５８に進む。
　ステップＳ５８において、FIRフィルタ４２は、生成対象の予測画素が生成可能であるかどうか、即ち生成対象の予測画素の生成に用いられる全てのSub pelが生成されたかどうかを判定する。
　ステップＳ５８で生成対象の予測画素が生成可能ではないと判定された場合、処理はステップＳ５４に戻り、生成対象の予測画素が生成可能になるまで、ステップＳ５４乃至Ｓ５８の処理が繰り返される。
　一方、ステップＳ５８で生成対象の予測画素が生成可能であると判定された場合、FIRフィルタ４２は、ステップＳ５６の演算の結果得られた画素を用いて所定の演算を行うことにより予測画素を生成し、処理をステップＳ５９に進める。
　また、ステップＳ５７で生成対象の予測画素がSub pel f,i,k,nではないと判定された場合、処理はステップＳ５９に進む。
　ステップＳ５９において、FIRフィルタ４２は、ステップＳ５８の処理で生成された予測画素を選択部２６に出力するか、または、ステップＳ５６の演算の結果得られる1個の画素を予測画素として出力する。
　ステップＳ６０において、参照画像読出部４１は、全ての予測画素が生成されたか、即ちステップＳ５３で予測画像を構成する全ての予測画素を生成対象の予測画素に決定したかどうかを判定する。ステップＳ６０でまだ全ての予測画素が生成されていないと判定された場合、処理はステップＳ５３に戻り、全ての予測画素が生成されるまで、ステップＳ５３乃至Ｓ５９の処理が繰り返される。
　一方、ステップＳ６０で全ての予測画素が生成されたと判定された場合、処理は図２７のステップＳ１５に戻り、ステップＳ１６に進む。
　以上のように、符号化装置１０は、インター予測時において、予測画素の参照画像上の水平方向および垂直方向の位置が1/2画素位置ではない分数位置である場合、直交する2方向に並ぶ参照画素を用いて予測画素を生成する。例えば、符号化装置１０は、直交する2つの斜め方向に並ぶ参照画素を用いてSub pel e,o,g,mである予測画素を生成する。
　これにより、従来のseparable 2D構造のインターポーレーションフィルタが用いられる場合に比べて処理量および遅延量が軽減され、さらに、従来の図３の方法に比べて、直交する2つの斜め方向のうちの一方の方向に関する予測画素の特性が向上する。即ち、符号化装置１０は、インター予測の精度の劣化を抑制しつつ、インター予測の処理量および遅延量を軽減することができる。
　［復号装置の構成例］
　図３０は、図４の符号化装置１０から出力される画像圧縮情報を復号する、本発明を適用した画像処理装置としての復号装置の構成例を示すブロック図である。
　図３０の復号装置１００は、蓄積バッファ１０１、可逆復号化部１０２、逆量子化部１０３、逆直交変換部１０４、加算部１０５、デブロックフィルタ１０６、画面並べ替えバッファ１０７、D/A変換部１０８、フレームメモリ１０９、イントラ予測部１１０、インター予測部１１１、およびスイッチ１１２により構成される。
　復号装置１００の蓄積バッファ１０１は、図４の符号化装置１０から画像圧縮情報を受け取り、蓄積する。蓄積バッファ１０１は、蓄積されている画像圧縮情報を可逆復号化部１０２に供給する。
　可逆復号化部１０２は、蓄積バッファ１０１からの画像圧縮情報に対して、可変長復号や、算術復号等の可逆復号を施すことで、量子化された係数とヘッダを得る。可逆復号化部１０２は、量子化された係数を逆量子化部１０３に供給する。また、可逆復号化部１０２は、ヘッダに含まれるイントラ予測モード情報などをイントラ予測部１１０に供給し、動きベクトルとインター予測モード情報などをインター予測部１１１に供給する。さらに、可逆復号化部１０２は、ヘッダに含まれるイントラ予測モード情報またはインター予測モード情報をスイッチ１１２に供給する。
　逆量子化部１０３、逆直交変換部１０４、加算部１０５、デブロックフィルタ１０６、フレームメモリ１０９、イントラ予測部１１０、および、インター予測部１１１は、図４の逆量子化部１８、逆直交変換部１９、加算部２０、デブロックフィルタ２１、フレームメモリ２２、イントラ予測部２３、および、インター予測部２４とそれぞれ同様の処理を行い、これにより、画像が復号される。
　具体的には、逆量子化部１０３は、可逆復号化部１０２からの量子化された係数を逆量子化し、その結果得られる係数を逆直交変換部１０４に供給する。
　逆直交変換部１０４は、逆量子化部１０３からの係数に対して、逆離散コサイン変換、逆カルーネン・レーベ変換等の逆直交変換を施し、その結果得られる残差情報を加算部１０５に供給する。
　加算部１０５は、加算演算手段として機能し、逆直交変換部１０４から供給される復号対象の画像としての残差情報と、スイッチ１１２から供給される予測画像を加算し、その結果得られる画像をデブロックフィルタ１０６に供給するとともに、参照画像としてイントラ予測部１１０に供給する。なお、スイッチ１１２から予測画像が供給されない場合、加算部１０５は、逆直交変換部１０４から供給される残差情報である画像をデブロックフィルタ１０６に供給するとともに、参照画像としてイントラ予測部１１０に供給する。
　デブロックフィルタ１０６は、加算部１０５から供給される画像をフィルタリングすることにより、ブロック歪を除去する。デブロックフィルタ１０６は、その結果得られる画像をフレームメモリ１０９に供給し、蓄積させるとともに、画面並べ替えバッファ１０７に供給する。フレームメモリ１０９に蓄積された画像は、参照画像としてインター予測部１１１に供給される。
　画面並べ替えバッファ１０７は、デブロックフィルタ１０６から供給される画像をフレーム単位で記憶する。画面並べ替えバッファ１０７は、記憶した符号化のための順番のフレーム単位の画像を、元の表示の順番に並び替え、D/A変換部１０８に供給する。
　D/A変換部１０８は、画面並べ替えバッファ１０７から供給されるフレーム単位の画像をD/A変換し、出力信号として出力する。
　イントラ予測部１１０は、加算部１０５から供給される参照画像を用いて、可逆復号化部１０２から供給されるイントラ予測モード情報が表すイントラ予測モードのイントラ予測を行い、予測画像を生成する。そして、イントラ予測部１１０は、予測画像をスイッチ１１２に供給する。
　インター予測部１１１は、図５に示したインター予測部２４と同様に構成される。インター予測部１１１は、可逆復号化部１０２から供給されるインター予測モード情報と動きベクトルに基づいて、フレームメモリ１０９から参照画像を読み出す。インター予測部１１１は、動きベクトルとフレームメモリ１０９から読み出された参照画像とに基づいて、インター予測処理を行う。インター予測部１１１は、その結果生成される予測画像をスイッチ１１２に供給する。
　スイッチ１１２は、可逆復号化部１０２からイントラ予測モード情報が供給された場合、イントラ予測部１１０から供給される予測画像を加算部１０５に供給する。一方、可逆復号化部１０２からインター予測モード情報が供給された場合、インター予測部１１１から供給される予測画像を加算部１０５に供給する。
　［復号装置の処理の説明］
　図３１は、図３０の復号装置１００による復号処理を説明するフローチャートである。この復号処理は、例えば、フレーム単位の画像圧縮情報が復号装置１００に入力されるたびに行われる。
　図３１のステップＳ１０１において、復号装置１００の蓄積バッファ１０１は、図４の符号化装置１０からフレーム単位の画像圧縮情報を受け取り、蓄積する。蓄積バッファ１０１は、蓄積されている画像圧縮情報を可逆復号化部１０２に供給する。なお、以下のステップＳ１０２乃至Ｓ１１０の処理は、例えばマクロブック単位で行われる。
　ステップＳ１０２において、可逆復号化部１０２は、蓄積バッファ１０１からの画像圧縮情報を可逆復号し、量子化された係数とヘッダを得る。可逆復号化部１０２は、量子化された係数を逆量子化部１０３に供給する。また、可逆復号化部１０２は、ヘッダに含まれるイントラ予測モード情報などをイントラ予測部１１０に供給し、動きベクトルとインター予測モード情報などをインター予測部１１１に供給する。さらに、可逆復号化部１０２は、ヘッダに含まれるイントラ予測モード情報またはインター予測モード情報をスイッチ１１２に供給する。
　ステップＳ１０３において、逆量子化部１０３は、可逆復号化部１０２からの量子化された係数を逆量子化し、その結果得られる係数を逆直交変換部１０４に供給する。
　ステップＳ１０４において、逆直交変換部１０４は、逆量子化部１０３からの係数に対して逆直交変換を施し、その結果得られる残差情報を加算部１０５に供給する。
　ステップＳ１０５において、インター予測部１１１は、可逆復号化部１０２からインター予測モード情報が供給されたかどうかを判定する。ステップＳ１０５でインター予測モード情報が供給されたと判定された場合、処理はステップＳ１０６に進む。
　ステップＳ１０６において、インター予測部１１１は、可逆復号化部１０２から供給される動きベクトルとインター予測モード情報に基づいて、図２９で説明したインター予測処理を行う。インター予測部１１１は、その結果生成される予測画像を、スイッチ１１２を介して加算部１０５に供給し、処理をステップＳ１０８に進める。
　一方、ステップＳ１０５でインター予測モード情報が供給されていないと判定された場合、即ちイントラ予測モード情報がイントラ予測部１１０に供給された場合、処理はステップＳ１０７に進む。
　ステップＳ１０７において、イントラ予測部１１０は、加算部１０５から供給される参照画像を用いて、可逆復号化部１０２から供給されるイントラ予測モード情報が表すイントラ予測モードのイントラ予測を行う。そして、イントラ予測部１１０は、その結果生成される予測画像を、スイッチ１１２を介して加算部１０５に供給し、処理をステップＳ１０８に進める。
　ステップＳ１０８において、加算部１０５は、逆直交変換部１０４から供給される残差情報と、スイッチ１１２から供給される予測画像を加算する。加算部１０５は、その結果得られる画像をデブロックフィルタ１０６に供給するとともに、参照画像としてイントラ予測部１１０に供給する。なお、先頭のフレームの先頭のマクロブロックの処理時には、参照画像は存在しないため、ステップＳ１０５乃至Ｓ１０８の処理は行われず、残差情報である画像がデブロックフィルタ１０６に供給されるとともに、参照画像としてイントラ予測部１１０に供給される。
　ステップＳ１０９において、デブロックフィルタ１０６は、加算部１０５から供給される画像に対してフィルタリングを行い、ブロック歪を除去する。
　ステップＳ１１０において、デブロックフィルタ１０６は、フィルタリング後の画像をフレームメモリ１０９に供給し、蓄積させるとともに、画面並べ替えバッファ１０７に供給する。フレームメモリ１０９に蓄積された画像は、参照画像としてインター予測部１１１に供給される。
　ステップＳ１１１において、画面並べ替えバッファ１０７は、デブロックフィルタ１０６から供給される画像をフレーム単位で記憶し、記憶した符号化のための順番のフレーム単位の画像を、元の表示の順番に並び替え、D/A変換部１０８に供給する。
　ステップＳ１１２において、D/A変換部１０８は、画面並べ替えバッファ１０７から供給されるフレーム単位の画像をD/A変換し、出力信号として出力する。
　以上のように、復号装置１００は、インター予測時において、符号化装置１０と同様に、予測画素の参照画像上の水平方向および垂直方向の位置が1/2画素位置ではない分数位置である場合、直交する2方向に並ぶ参照画素を用いて予測画素を生成する。その結果、復号装置１００は、インター予測の精度の劣化を抑制しつつ、インター予測の処理量および遅延量を軽減することができる。
　なお、フィルタ係数は、可変であってもよい。この場合、FIRフィルタ４２およびフィルタ係数メモリ４３の代わりに、アダプティブ・インターポーレーション・フィルタ（AIF）が用いられる。AIFについては、例えば、Yuri Vatis, Joern Ostermann,”Prediction of P- and B-Frames Using a Two-dimensional Non-separable Adaptive Wiener Interpolation Filter for H.264/AVC”, ITU-T SG16 VCEG 30th Meeting, Hangzhou China, October 2006，Steffen Wittmann,Thomas Wedi,”Separable adaptive inerpolation filte”, ITU-T SG16COM16-C219-E,June 2007,Dmytro Rusanovskyy, et al., “Improvements on Enhanced Directional Adaptive Filtering (EDAIF-2)”, COM 16 - C 125 - E, January 2009等の文献に記載されている。
　本実施の形態では、符号化方式としてH．264/AVC方式をベースに用いるようにしたが、本発明はこれに限らず、その他の動き予測・補償処理を行う符号化方式／復号方式を用いる符号化装置/復号装置に適用することもできる。
　また、本発明は、例えば、MPEG，H．26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮する方式で圧縮された画像情報（ビットストリーム）を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる符号化装置および復号装置に適用することができる。また、本発明は、光ディスク、磁気ディスク、フラッシュメモリなどの記憶メディアに対して処理する際に用いられる符号化装置および復号装置に適用することができる。さらに、本発明は、それらの符号化装置および復号装置などに含まれる動き予測補償装置にも適用することができる。
　[本発明を適用したコンピュータの説明]
　次に、上述した符号化処理や復号処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。符号化処理や復号処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
　そこで、図３２は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
　プログラムは、コンピュータに内蔵されている記録媒体としての記憶部４０８やROM（Read Only Memory）４０２に予め記録しておくことができる。
　あるいはまた、プログラムは、リムーバブルメディア４１１に格納（記録）しておくことができる。このようなリムーバブルメディア４１１は、いわゆるパッケージソフトウエアとして提供することができる。ここで、リムーバブルメディア４１１としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)，MO(Magneto Optical)ディスク，DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
　なお、プログラムは、上述したようなリムーバブルメディア４１１からドライブ４１０を介してコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵する記憶部４０８にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、デジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
　コンピュータは、CPU(Central Processing Unit)４０１を内蔵しており、CPU４０１には、バス４０４を介して、入出力インタフェース４０５が接続されている。
　CPU４０１は、入出力インタフェース４０５を介して、ユーザによって、入力部４０６が操作等されることにより指令が入力されると、それに従って、ROM４０２に格納されているプログラムを実行する。あるいは、CPU４０１は、記憶部４０８に格納されたプログラムを、RAM(Random Access Memory)４０３にロードして実行する。
　これにより、CPU４０１は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU４０１は、その処理結果を、必要に応じて、例えば、入出力インタフェース４０５を介して、出力部４０７から出力、あるいは、通信部４０９から送信、さらには、記憶部４０８に記録等させる。
　なお、入力部４０６は、キーボードや、マウス、マイク等で構成される。また、出力部４０７は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
　ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）も含む。
　また、プログラムは、１のコンピュータ（プロセッサ）により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
［テレビジョン受像機の構成例］
　図３３は、本発明を適用した復号装置を用いるテレビジョン受像機の主な構成例を示すブロック図である。
　図３３に示されるテレビジョン受像機５００は、地上波チューナ５１３、ビデオデコーダ５１５、映像信号処理回路５１８、グラフィック生成回路５１９、パネル駆動回路５２０、および表示パネル５２１を有する。
　地上波チューナ５１３は、地上アナログ放送の放送波信号を、アンテナを介して受信し、復調し、映像信号を取得し、それをビデオデコーダ５１５に供給する。ビデオデコーダ５１５は、地上波チューナ５１３から供給された映像信号に対してデコード処理を施し、得られたデジタルのコンポーネント信号を映像信号処理回路５１８に供給する。
　映像信号処理回路５１８は、ビデオデコーダ５１５から供給された映像データに対してノイズ除去などの所定の処理を施し、得られた映像データをグラフィック生成回路５１９に供給する。
　グラフィック生成回路５１９は、表示パネル５２１に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成し、生成した映像データや画像データをパネル駆動回路５２０に供給する。また、グラフィック生成回路５１９は、項目の選択などにユーザにより利用される画面を表示するための映像データ（グラフィック）を生成し、それを番組の映像データに重畳したりすることによって得られた映像データをパネル駆動回路５２０に供給するといった処理も適宜行う。
　パネル駆動回路５２０は、グラフィック生成回路５１９から供給されたデータに基づいて表示パネル５２１を駆動し、番組の映像や上述した各種の画面を表示パネル５２１に表示させる。
　表示パネル５２１はLCD（Liquid Crystal Display）などよりなり、パネル駆動回路５２０による制御に従って番組の映像などを表示させる。
　また、テレビジョン受像機５００は、音声A/D（Analog/Digital)変換回路５１４、音声信号処理回路５２２、エコーキャンセル／音声合成回路５２３、音声増幅回路５２４、およびスピーカ５２５も有する。
　地上波チューナ５１３は、受信した放送波信号を復調することにより、映像信号だけでなく音声信号も取得する。地上波チューナ５１３は、取得した音声信号を音声A/D変換回路５１４に供給する。
　音声A/D変換回路５１４は、地上波チューナ５１３から供給された音声信号に対してA/D変換処理を施し、得られたデジタルの音声信号を音声信号処理回路５２２に供給する。
　音声信号処理回路５２２は、音声A/D変換回路５１４から供給された音声データに対してノイズ除去などの所定の処理を施し、得られた音声データをエコーキャンセル／音声合成回路５２３に供給する。
　エコーキャンセル／音声合成回路５２３は、音声信号処理回路５２２から供給された音声データを音声増幅回路５２４に供給する。
　音声増幅回路５２４は、エコーキャンセル／音声合成回路５２３から供給された音声データに対してD/A変換処理、増幅処理を施し、所定の音量に調整した後、音声をスピーカ５２５から出力させる。
　さらに、テレビジョン受像機５００は、デジタルチューナ５１６およびMPEGデコーダ５１７も有する。
　デジタルチューナ５１６は、デジタル放送（地上デジタル放送、BS（Broadcasting Satellite）／CS（Communications Satellite）デジタル放送）の放送波信号を、アンテナを介して受信し、復調し、MPEG-TS（Moving Picture Experts Group-Transport Stream）を取得し、それをMPEGデコーダ５１７に供給する。
　MPEGデコーダ５１７は、デジタルチューナ５１６から供給されたMPEG-TSに施されているスクランブルを解除し、再生対象（視聴対象）になっている番組のデータを含むストリームを抽出する。MPEGデコーダ５１７は、抽出したストリームを構成する音声パケットをデコードし、得られた音声データを音声信号処理回路５２２に供給するとともに、ストリームを構成する映像パケットをデコードし、得られた映像データを映像信号処理回路５１８に供給する。また、MPEGデコーダ５１７は、MPEG-TSから抽出したEPG（Electronic Program Guide)データを図示せぬ経路を介してCPU５３２に供給する。
　テレビジョン受像機５００は、このように映像パケットをデコードするMPEGデコーダ５１７として、上述した復号装置１００を用いる。したがって、MPEGデコーダ５１７では、復号装置１００の場合と同様に、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができる。
　MPEGデコーダ５１７から供給された映像データは、ビデオデコーダ５１５から供給された映像データの場合と同様に、映像信号処理回路５１８において所定の処理が施される。そして、所定の処理が施された映像データは、グラフィック生成回路５１９において、生成された映像データ等が適宜重畳され、パネル駆動回路５２０を介して表示パネル５２１に供給され、その画像が表示される。
　MPEGデコーダ５１７から供給された音声データは、音声A/D変換回路５１４から供給された音声データの場合と同様に、音声信号処理回路５２２において所定の処理が施される。そして、所定の処理が施された音声データは、エコーキャンセル／音声合成回路５２３を介して音声増幅回路５２４に供給され、D/A変換処理や増幅処理が施される。その結果、所定の音量に調整された音声がスピーカ５２５から出力される。
　また、テレビジョン受像機５００は、マイクロホン５２６、およびA/D変換回路５２７も有する。
　A/D変換回路５２７は、音声会話用のものとしてテレビジョン受像機５００に設けられるマイクロホン５２６により取り込まれたユーザの音声の信号を受信する。A/D変換回路５２７は、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データをエコーキャンセル／音声合成回路５２３に供給する。
　エコーキャンセル／音声合成回路５２３は、テレビジョン受像機５００のユーザ（ユーザＡ）の音声のデータがA/D変換回路５２７から供給されている場合、ユーザＡの音声データを対象としてエコーキャンセルを行う。そして、エコーキャンセル／音声合成回路５２３は、エコーキャンセルの後、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路５２４を介してスピーカ５２５より出力させる。
　さらに、テレビジョン受像機５００は、音声コーデック５２８、内部バス５２９、SDRAM（Synchronous Dynamic Random Access Memory)５３０、フラッシュメモリ５３１、CPU５３２、USB（Universal Serial Bus) I/F５３３、およびネットワークI/F５３４も有する。
　A/D変換回路５２７は、音声会話用のものとしてテレビジョン受像機５００に設けられるマイクロホン５２６により取り込まれたユーザの音声の信号を受信する。A/D変換回路５２７は、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データを音声コーデック５２８に供給する。
　音声コーデック５２８は、A/D変換回路５２７から供給された音声データを、ネットワーク経由で送信するための所定のフォーマットのデータに変換し、内部バス５２９を介してネットワークI/F５３４に供給する。
　ネットワークI/F５３４は、ネットワーク端子５３５に装着されたケーブルを介してネットワークに接続される。ネットワークI/F５３４は、例えば、そのネットワークに接続される他の装置に対して、音声コーデック５２８から供給された音声データを送信する。また、ネットワークI/F５３４は、例えば、ネットワークを介して接続される他の装置から送信される音声データを、ネットワーク端子５３５を介して受信し、それを、内部バス５２９を介して音声コーデック５２８に供給する。
　音声コーデック５２８は、ネットワークI/F５３４から供給された音声データを所定のフォーマットのデータに変換し、それをエコーキャンセル／音声合成回路５２３に供給する。
　エコーキャンセル／音声合成回路５２３は、音声コーデック５２８から供給される音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路５２４を介してスピーカ５２５より出力させる。
　SDRAM５３０は、CPU５３２が処理を行う上で必要な各種のデータを記憶する。
　フラッシュメモリ５３１は、CPU５３２により実行されるプログラムを記憶する。フラッシュメモリ５３１に記憶されているプログラムは、テレビジョン受像機５００の起動時などの所定のタイミングでCPU５３２により読み出される。フラッシュメモリ５３１には、デジタル放送を介して取得されたEPGデータ、ネットワークを介して所定のサーバから取得されたデータなども記憶される。
　例えば、フラッシュメモリ５３１には、CPU５３２の制御によりネットワークを介して所定のサーバから取得されたコンテンツデータを含むMPEG-TSが記憶される。フラッシュメモリ５３１は、例えばCPU５３２の制御により、そのMPEG-TSを、内部バス５２９を介してMPEGデコーダ５１７に供給する。
　MPEGデコーダ５１７は、デジタルチューナ５１６から供給されたMPEG-TSの場合と同様に、そのMPEG-TSを処理する。このようにテレビジョン受像機５００は、映像や音声等よりなるコンテンツデータを、ネットワークを介して受信し、MPEGデコーダ５１７を用いてデコードし、その映像を表示させたり、音声を出力させたりすることができる。
　また、テレビジョン受像機５００は、リモートコントローラ５５１から送信される赤外線信号を受光する受光部５３７も有する。
　受光部５３７は、リモートコントローラ５５１からの赤外線を受光し、復調して得られたユーザ操作の内容を表す制御コードをCPU５３２に出力する。
　CPU５３２は、フラッシュメモリ５３１に記憶されているプログラムを実行し、受光部５３７から供給される制御コードなどに応じてテレビジョン受像機５００の全体の動作を制御する。CPU５３２とテレビジョン受像機５００の各部は、図示せぬ経路を介して接続されている。
　USB I/F５３３は、USB端子５３６に装着されたUSBケーブルを介して接続される、テレビジョン受像機５００の外部の機器との間でデータの送受信を行う。ネットワークI/F５３４は、ネットワーク端子５３５に装着されたケーブルを介してネットワークに接続し、ネットワークに接続される各種の装置と音声データ以外のデータの送受信も行う。
　テレビジョン受像機５００は、MPEGデコーダ５１７として復号装置１００を用いることにより、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができる。
［携帯電話機の構成例］
　図３４は、本発明を適用した符号化装置および復号装置を用いる携帯電話機の主な構成例を示すブロック図である。
　図３４に示される携帯電話機６００は、各部を統括的に制御するようになされた主制御部６５０、電源回路部６５１、操作入力制御部６５２、画像エンコーダ６５３、カメラI/F部６５４、LCD制御部６５５、画像デコーダ６５６、多重分離部６５７、記録再生部６６２、変復調回路部６５８、および音声コーデック６５９を有する。これらは、バス６６０を介して互いに接続されている。
　また、携帯電話機６００は、操作キー６１９、CCD（Charge Coupled Devices）カメラ６１６、液晶ディスプレイ６１８、記憶部６２３、送受信回路部６６３、アンテナ６１４、マイクロホン（マイク）６２１、およびスピーカ６１７を有する。
　電源回路部６５１は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話機６００を動作可能な状態に起動する。
　携帯電話機６００は、CPU、ROMおよびRAM等でなる主制御部６５０の制御に基づいて、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。
　例えば、音声通話モードにおいて、携帯電話機６００は、マイクロホン（マイク）６２１で集音した音声信号を、音声コーデック６５９によってデジタル音声データに変換し、これを変復調回路部６５８でスペクトラム拡散処理し、送受信回路部６６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機６００は、その変換処理により得られた送信用信号を、アンテナ６１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（音声信号）は、公衆電話回線網を介して通話相手の携帯電話機に供給される。
　また、例えば、音声通話モードにおいて、携帯電話機６００は、アンテナ６１４で受信した受信信号を送受信回路部６６３で増幅し、さらに周波数変換処理およびアナログデジタル変換処理し、変復調回路部６５８でスペクトラム逆拡散処理し、音声コーデック６５９によってアナログ音声信号に変換する。携帯電話機６００は、その変換して得られたアナログ音声信号をスピーカ６１７から出力する。
　更に、例えば、データ通信モードにおいて電子メールを送信する場合、携帯電話機６００は、操作キー６１９の操作によって入力された電子メールのテキストデータを、操作入力制御部６５２において受け付ける。携帯電話機６００は、そのテキストデータを主制御部６５０において処理し、LCD制御部６５５を介して、画像として液晶ディスプレイ６１８に表示させる。
　また、携帯電話機６００は、主制御部６５０において、操作入力制御部６５２が受け付けたテキストデータやユーザ指示等に基づいて電子メールデータを生成する。携帯電話機６００は、その電子メールデータを、変復調回路部６５８でスペクトラム拡散処理し、送受信回路部６６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機６００は、その変換処理により得られた送信用信号を、アンテナ６１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（電子メール）は、ネットワークおよびメールサーバ等を介して、所定のあて先に供給される。
　また、例えば、データ通信モードにおいて電子メールを受信する場合、携帯電話機６００は、基地局から送信された信号を、アンテナ６１４を介して送受信回路部６６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機６００は、その受信信号を変復調回路部６５８でスペクトラム逆拡散処理して元の電子メールデータを復元する。携帯電話機６００は、復元された電子メールデータを、LCD制御部６５５を介して液晶ディスプレイ６１８に表示する。
　なお、携帯電話機６００は、受信した電子メールデータを、記録再生部６６２を介して、記憶部６２３に記録する（記憶させる）ことも可能である。
　この記憶部６２３は、書き換え可能な任意の記憶媒体である。記憶部６２３は、例えば、RAMや内蔵型フラッシュメモリ等の半導体メモリであってもよいし、ハードディスクであってもよいし、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、またはメモリカード等のリムーバブルメディアであってもよい。もちろん、これら以外のものであってもよい。
　さらに、例えば、データ通信モードにおいて画像データを送信する場合、携帯電話機６００は、撮像によりCCDカメラ６１６で画像データを生成する。CCDカメラ６１６は、レンズや絞り等の光学デバイスと光電変換素子としてのCCDを有し、被写体を撮像し、受光した光の強度を電気信号に変換し、被写体の画像の画像データを生成する。その画像データを、カメラI/F部６５４を介して、画像エンコーダ６５３で、例えばMPEG２やMPEG４等の所定の符号化方式によって圧縮符号化することにより符号化画像データに変換する。
　携帯電話機６００は、このような処理を行う画像エンコーダ６５３として、上述した符号化装置１０を用いる。したがって、画像エンコーダ６５３は、符号化装置１０の場合と同様に、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができる。
　なお、携帯電話機６００は、このとき同時に、CCDカメラ６１６で撮像中にマイクロホン（マイク）６２１で集音した音声を、音声コーデック６５９においてアナログデジタル変換し、さらに符号化する。
　携帯電話機６００は、多重分離部６５７において、画像エンコーダ６５３から供給された符号化画像データと、音声コーデック６５９から供給されたデジタル音声データとを、所定の方式で多重化する。携帯電話機６００は、その結果得られる多重化データを、変復調回路部６５８でスペクトラム拡散処理し、送受信回路部６６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機６００は、その変換処理により得られた送信用信号を、アンテナ６１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（画像データ）は、ネットワーク等を介して、通信相手に供給される。
　なお、画像データを送信しない場合、携帯電話機６００は、CCDカメラ６１６で生成した画像データを、画像エンコーダ６５３を介さずに、LCD制御部６５５を介して液晶ディスプレイ６１８に表示させることもできる。
　また、例えば、データ通信モードにおいて、簡易ホームページ等にリンクされた動画像ファイルのデータを受信する場合、携帯電話機６００は、基地局から送信された信号を、アンテナ６１４を介して送受信回路部６６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機６００は、その受信信号を変復調回路部６５８でスペクトラム逆拡散処理して元の多重化データを復元する。携帯電話機６００は、多重分離部６５７において、その多重化データを分離して、符号化画像データと音声データとに分ける。
　携帯電話機６００は、画像デコーダ６５６において、符号化画像データを、MPEG２やMPEG４等の所定の符号化方式に対応した復号方式でデコードすることにより、再生動画像データを生成し、これを、LCD制御部６５５を介して液晶ディスプレイ６１８に表示させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる動画データが液晶ディスプレイ６１８に表示される。
　携帯電話機６００は、このような処理を行う画像デコーダ６５６として、上述した復号装置１００を用いる。したがって、画像デコーダ６５６は、復号装置１００の場合と同様に、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができる。
　このとき、携帯電話機６００は、同時に、音声コーデック６５９において、デジタルの音声データをアナログ音声信号に変換し、これをスピーカ６１７より出力させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
　なお、電子メールの場合と同様に、携帯電話機６００は、受信した簡易ホームページ等にリンクされたデータを、記録再生部６６２を介して、記憶部６２３に記録する（記憶させる）ことも可能である。
　また、携帯電話機６００は、主制御部６５０において、撮像されてCCDカメラ６１６で得られた２次元コードを解析し、２次元コードに記録された情報を取得することができる。
　さらに、携帯電話機６００は、赤外線通信部６８１で赤外線により外部の機器と通信することができる。
　携帯電話機６００は、画像エンコーダ６５３として符号化装置１０を用いることにより、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を軽減することができる。
　また、携帯電話機６００は、画像デコーダ６５６として復号装置１００を用いることにより、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を削減することができる。
　なお、以上において、携帯電話機６００が、CCDカメラ６１６を用いるように説明したが、このCCDカメラ６１６の代わりに、CMOS（Complementary Metal Oxide Semiconductor）を用いたイメージセンサ（CMOSイメージセンサ）を用いるようにしてもよい。この場合も、携帯電話機６００は、CCDカメラ６１６を用いる場合と同様に、被写体を撮像し、被写体の画像の画像データを生成することができる。
　また、以上においては携帯電話機６００として説明したが、例えば、PDA（Personal Digital Assistants）、スマートフォン、UMPC（Ultra Mobile Personal Computer）、ネットブック、ノート型パーソナルコンピュータ等、この携帯電話機６００と同様の撮像機能や通信機能を有する装置であれば、どのような装置であっても携帯電話機６００の場合と同様に、符号化装置１０および復号装置１００を適用することができる。
［ハードディスクレコーダの構成例］
　図３５は、本発明を適用した符号化装置および復号装置を用いるハードディスクレコーダの主な構成例を示すブロック図である。
　図３５に示されるハードディスクレコーダ（HDDレコーダ）７００は、チューナにより受信された、衛星や地上のアンテナ等より送信される放送波信号（テレビジョン信号）に含まれる放送番組のオーディオデータとビデオデータを、内蔵するハードディスクに保存し、その保存したデータをユーザの指示に応じたタイミングでユーザに提供する装置である。
　ハードディスクレコーダ７００は、例えば、放送波信号よりオーディオデータとビデオデータを抽出し、それらを適宜復号し、内蔵するハードディスクに記憶させることができる。また、ハードディスクレコーダ７００は、例えば、ネットワークを介して他の装置からオーディオデータやビデオデータを取得し、それらを適宜復号し、内蔵するハードディスクに記憶させることもできる。
　さらに、ハードディスクレコーダ７００は、例えば、内蔵するハードディスクに記録されているオーディオデータやビデオデータを復号してモニタ７６０に供給し、モニタ７６０の画面にその画像を表示させる。また、ハードディスクレコーダ７００は、モニタ７６０のスピーカよりその音声を出力させることができる。
　ハードディスクレコーダ７００は、例えば、チューナを介して取得された放送波信号より抽出されたオーディオデータとビデオデータ、または、ネットワークを介して他の装置から取得したオーディオデータやビデオデータを復号してモニタ７６０に供給し、モニタ７６０の画面にその画像を表示させる。また、ハードディスクレコーダ７００は、モニタ７６０のスピーカよりその音声を出力させることもできる。
　もちろん、この他の動作も可能である。
　図３５に示されるように、ハードディスクレコーダ７００は、受信部７２１、復調部７２２、デマルチプレクサ７２３、オーディオデコーダ７２４、ビデオデコーダ７２５、およびレコーダ制御部７２６を有する。ハードディスクレコーダ７００は、さらに、EPGデータメモリ７２７、プログラムメモリ７２８、ワークメモリ７２９、ディスプレイコンバータ７３０、OSD（On Screen Display）制御部７３１、ディスプレイ制御部７３２、記録再生部７３３、D/Aコンバータ７３４、および通信部７３５を有する。
　また、ディスプレイコンバータ７３０は、ビデオエンコーダ７４１を有する。記録再生部７３３は、エンコーダ７５１およびデコーダ７５２を有する。
　受信部７２１は、リモートコントローラ（図示せず）からの赤外線信号を受信し、電気信号に変換してレコーダ制御部７２６に出力する。レコーダ制御部７２６は、例えば、マイクロプロセッサなどにより構成され、プログラムメモリ７２８に記憶されているプログラムに従って、各種の処理を実行する。レコーダ制御部７２６は、このとき、ワークメモリ７２９を必要に応じて使用する。
　通信部７３５は、ネットワークに接続され、ネットワークを介して他の装置との通信処理を行う。例えば、通信部７３５は、レコーダ制御部７２６により制御され、チューナ（図示せず）と通信し、主にチューナに対して選局制御信号を出力する。
　復調部７２２は、チューナより供給された信号を、復調し、デマルチプレクサ７２３に出力する。デマルチプレクサ７２３は、復調部７２２より供給されたデータを、オーディオデータ、ビデオデータ、およびEPGデータに分離し、それぞれ、オーディオデコーダ７２４、ビデオデコーダ７２５、またはレコーダ制御部７２６に出力する。
　オーディオデコーダ７２４は、入力されたオーディオデータを、例えばMPEG方式でデコードし、記録再生部７３３に出力する。ビデオデコーダ７２５は、入力されたビデオデータを、例えばMPEG方式でデコードし、ディスプレイコンバータ７３０に出力する。レコーダ制御部７２６は、入力されたEPGデータをEPGデータメモリ７２７に供給し、記憶させる。
　ディスプレイコンバータ７３０は、ビデオデコーダ７２５またはレコーダ制御部７２６より供給されたビデオデータを、ビデオエンコーダ７４１により、例えばNTSC（National Television Standards Committee）方式のビデオデータにエンコードし、記録再生部７３３に出力する。また、ディスプレイコンバータ７３０は、ビデオデコーダ７２５またはレコーダ制御部７２６より供給されるビデオデータの画面のサイズを、モニタ７６０のサイズに対応するサイズに変換する。ディスプレイコンバータ７３０は、画面のサイズが変換されたビデオデータを、さらに、ビデオエンコーダ７４１によってNTSC方式のビデオデータに変換し、アナログ信号に変換し、ディスプレイ制御部７３２に出力する。
　ディスプレイ制御部７３２は、レコーダ制御部７２６の制御のもと、OSD（On Screen Display）制御部７３１が出力したOSD信号を、ディスプレイコンバータ７３０より入力されたビデオ信号に重畳し、モニタ７６０のディスプレイに出力し、表示させる。
　モニタ７６０にはまた、オーディオデコーダ７２４が出力したオーディオデータが、D/Aコンバータ７３４によりアナログ信号に変換されて供給されている。モニタ７６０は、このオーディオ信号を内蔵するスピーカから出力する。
　記録再生部７３３は、ビデオデータやオーディオデータ等を記録する記憶媒体としてハードディスクを有する。
　記録再生部７３３は、例えば、オーディオデコーダ７２４より供給されるオーディオデータを、エンコーダ７５１によりMPEG方式でエンコードする。また、記録再生部７３３は、ディスプレイコンバータ７３０のビデオエンコーダ７４１より供給されるビデオデータを、エンコーダ７５１によりMPEG方式でエンコードする。記録再生部７３３は、そのオーディオデータの符号化データとビデオデータの符号化データとをマルチプレクサにより合成する。記録再生部７３３は、その合成データをチャネルコーディングして増幅し、そのデータを、記録ヘッドを介してハードディスクに書き込む。
　記録再生部７３３は、再生ヘッドを介してハードディスクに記録されているデータを再生し、増幅し、デマルチプレクサによりオーディオデータとビデオデータに分離する。記録再生部７３３は、デコーダ７５２によりオーディオデータおよびビデオデータをMPEG方式でデコードする。記録再生部７３３は、復号したオーディオデータをD/A変換し、モニタ７６０のスピーカに出力する。また、記録再生部７３３は、復号したビデオデータをD/A変換し、モニタ７６０のディスプレイに出力する。
　レコーダ制御部７２６は、受信部７２１を介して受信されるリモートコントローラからの赤外線信号により示されるユーザ指示に基づいて、EPGデータメモリ７２７から最新のEPGデータを読み出し、それをOSD制御部７３１に供給する。OSD制御部７３１は、入力されたEPGデータに対応する画像データを発生し、ディスプレイ制御部７３２に出力する。ディスプレイ制御部７３２は、OSD制御部７３１より入力されたビデオデータをモニタ７６０のディスプレイに出力し、表示させる。これにより、モニタ７６０のディスプレイには、EPG（電子番組ガイド）が表示される。
　また、ハードディスクレコーダ７００は、インターネット等のネットワークを介して他の装置から供給されるビデオデータ、オーディオデータ、またはEPGデータ等の各種データを取得することができる。
　通信部７３５は、レコーダ制御部７２６に制御され、ネットワークを介して他の装置から送信されるビデオデータ、オーディオデータ、およびEPGデータ等の符号化データを取得し、それをレコーダ制御部７２６に供給する。レコーダ制御部７２６は、例えば、取得したビデオデータやオーディオデータの符号化データを記録再生部７３３に供給し、ハードディスクに記憶させる。このとき、レコーダ制御部７２６および記録再生部７３３が、必要に応じて再エンコード等の処理を行うようにしてもよい。
　また、レコーダ制御部７２６は、取得したビデオデータやオーディオデータの符号化データを復号し、得られるビデオデータをディスプレイコンバータ７３０に供給する。ディスプレイコンバータ７３０は、ビデオデコーダ７２５から供給されるビデオデータと同様に、レコーダ制御部７２６から供給されるビデオデータを処理し、ディスプレイ制御部７３２を介してモニタ７６０に供給し、その画像を表示させる。
　また、この画像表示に合わせて、レコーダ制御部７２６が、復号したオーディオデータを、D/Aコンバータ７３４を介してモニタ７６０に供給し、その音声をスピーカから出力させるようにしてもよい。
　さらに、レコーダ制御部７２６は、取得したEPGデータの符号化データを復号し、復号したEPGデータをEPGデータメモリ７２７に供給する。
　以上のようなハードディスクレコーダ７００は、ビデオデコーダ７２５、デコーダ７５２、およびレコーダ制御部７２６に内蔵されるデコーダとして復号装置１００を用いる。したがって、ビデオデコーダ７２５、デコーダ７５２、およびレコーダ制御部７２６に内蔵されるデコーダは、復号装置１００の場合と同様に、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を削減することができる。
　また、ハードディスクレコーダ７００は、エンコーダ７５１として符号化装置１０を用いる。したがって、エンコーダ７５１は、符号化装置１０の場合と同様にインター予測の精度の劣化を抑制しつつ、処理量および遅延量を削減することができる。
　なお、以上においては、ビデオデータやオーディオデータをハードディスクに記録するハードディスクレコーダ７００について説明したが、もちろん、記録媒体はどのようなものであってもよい。例えばフラッシュメモリ、光ディスク、またはビデオテープ等、ハードディスク以外の記録媒体を適用するレコーダであっても、上述したハードディスクレコーダ７００の場合と同様に、符号化装置１０および復号装置１００を適用することができる。
［カメラの構成例］
　図３６は、本発明を適用した符号化装置および復号装置を用いるカメラの主な構成例を示すブロック図である。
　図３６に示されるカメラ８００は、被写体を撮像し、被写体の画像をLCD８１６に表示させたり、それを画像データとして、記録メディア８３３に記録したりする。
　レンズブロック８１１は、光（すなわち、被写体の映像）を、CCD/CMOS８１２に入射させる。CCD/CMOS８１２は、CCDまたはCMOSを用いたイメージセンサであり、受光した光の強度を電気信号に変換し、カメラ信号処理部８１３に供給する。
　カメラ信号処理部８１３は、CCD/CMOS８１２から供給された電気信号を、Ｙ，Ｃｒ，Ｃｂの色差信号に変換し、画像信号処理部８１４に供給する。画像信号処理部８１４は、コントローラ８２１の制御の下、カメラ信号処理部８１３から供給された画像信号に対して所定の画像処理を施したり、その画像信号をエンコーダ８４１で例えばMPEG方式により符号化したりする。画像信号処理部８１４は、画像信号を符号化して生成した符号化データを、デコーダ８１５に供給する。さらに、画像信号処理部８１４は、オンスクリーンディスプレイ（OSD）８２０において生成された表示用データを取得し、それをデコーダ８１５に供給する。
　以上の処理において、カメラ信号処理部８１３は、バス８１７を介して接続されるDRAM（Dynamic Random Access Memory）８１８を適宜利用し、必要に応じて画像データや、その画像データが符号化された符号化データ等をそのDRAM８１８に保持させる。
　デコーダ８１５は、画像信号処理部８１４から供給された符号化データを復号し、得られた画像データ（復号画像データ）をLCD８１６に供給する。また、デコーダ８１５は、画像信号処理部８１４から供給された表示用データをLCD８１６に供給する。LCD８１６は、デコーダ８１５から供給された復号画像データの画像と表示用データの画像を適宜合成し、その合成画像を表示する。
　オンスクリーンディスプレイ８２０は、コントローラ８２１の制御の下、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを、バス８１７を介して画像信号処理部８１４に出力する。
　コントローラ８２１は、ユーザが操作部８２２を用いて指令した内容を示す信号に基づいて、各種処理を実行するとともに、バス８１７を介して、画像信号処理部８１４、DRAM８１８、外部インタフェース８１９、オンスクリーンディスプレイ８２０、およびメディアドライブ８２３等を制御する。FLASH ROM８２４には、コントローラ８２１が各種処理を実行する上で必要なプログラムやデータ等が格納される。
　例えば、コントローラ８２１は、画像信号処理部８１４やデコーダ８１５に代わって、DRAM８１８に記憶されている画像データを符号化したり、DRAM８１８に記憶されている符号化データを復号したりすることができる。このとき、コントローラ８２１は、画像信号処理部８１４やデコーダ８１５の符号化・復号方式と同様の方式によって符号化・復号処理を行うようにしてもよいし、画像信号処理部８１４やデコーダ８１５が対応していない方式により符号化・復号処理を行うようにしてもよい。
　また、例えば、操作部８２２から画像印刷の開始が指示された場合、コントローラ８２１は、DRAM８１８から画像データを読み出し、それを、バス８１７を介して外部インタフェース８１９に接続されるプリンタ８３４に供給して印刷させる。
　さらに、例えば、操作部８２２から画像記録が指示された場合、コントローラ８２１は、DRAM８１８から符号化データを読み出し、それを、バス８１７を介してメディアドライブ８２３に装着される記録メディア８３３に供給して記憶させる。
　記録メディア８３３は、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアである。記録メディア８３３は、もちろん、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触ICカード等であっても良い。
　また、メディアドライブ８２３と記録メディア８３３を一体化し、例えば、内蔵型ハードディスクドライブやSSD（Solid State Drive）等のように、非可搬性の記憶媒体により構成されるようにしてもよい。
　外部インタフェース８１９は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタ８３４と接続される。また、外部インタフェース８１９には、必要に応じてドライブ８３１が接続され、磁気ディスク、光ディスク、あるいは光磁気ディスクなどのリムーバブルメディア８３２が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、FLASH ROM８２４にインストールされる。
　さらに、外部インタフェース８１９は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。コントローラ８２１は、例えば、操作部８２２からの指示に従って、DRAM８１８から符号化データを読み出し、それを外部インタフェース８１９から、ネットワークを介して接続される他の装置に供給させることができる。また、コントローラ８２１は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース８１９を介して取得し、それをDRAM８１８に保持させたり、画像信号処理部８１４に供給したりすることができる。
　以上のようなカメラ８００は、デコーダ８１５として復号装置１００用いる。したがって、デコーダ８１５は、復号装置１００の場合と同様に、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を削減することができる。
　また、カメラ８００は、エンコーダ８４１として符号化装置１０を用いる。したがって、エンコーダ８４１は、符号化装置１０の場合と同様に、インター予測の精度の劣化を抑制しつつ、処理量および遅延量を削減することができる。
　なお、コントローラ８２１が行う復号処理に復号装置１００の復号方法を適用するようにしてもよい。同様に、コントローラ８２１が行う符号化処理に符号化装置１０の符号化方法を適用するようにしてもよい。
　また、カメラ８００が撮像する画像データは動画像であってもよいし、静止画像であってもよい。
　もちろん、符号化装置１０および復号装置１００は、上述した装置以外の装置やシステムにも適用可能である。
　なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
　１０　符号化装置，　１３　演算部，　２０　加算部,　２４　インター予測部，　４１　参照画素読出部，　４２　FIRフィルタ，　１００　復号装置，　１０５　加算部，　１１１　インター予測部

Claims (11)

  1. 　インター予測における参照画像から所定の画素を読み出す画素読出手段と、
    　前記画素読出手段により読み出された前記所定の画素を用いて、前記参照画像の分数画素位置の画素を前記インター予測における予測画像の画素として演算する演算手段と
    　を備え、
    　前記画素読出手段は、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置ではない分数画素位置である場合、前記参照画像の直交する2つの斜め方向に並ぶ画素を含む前記所定の画素を読み出す
    　画像処理装置。
  2. 　前記所定の画素は、前記予測画像の画素の前記参照画像上の位置から等距離にある画素を含む
    　請求項１に記載の画像処理装置。
  3. 　前記画素読出手段は、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置ではない分数画素位置である場合、前記参照画像の直交する2つの斜め方向に並ぶ画素のうちの、前記予測画像の画素の前記参照画像上の位置から近い順の所定数の画素を含む前記所定の画素を読み出す
    　請求項１に記載の画像処理装置。
  4. 　前記画素読出手段は、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置である場合、前記参照画像の直交する2方向と、その2方向とは異なる直交する2方向に並ぶ画素を含む前記所定の画素を読み出す
    　請求項１に記載の画像処理装置。
  5. 　前記画素読出手段は、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置である場合、前記参照画像の水平方向および垂直方向並びに直交する2つの斜め方向に並ぶ画素を含む前記所定の画素を読み出す
    　請求項４に記載の画像処理装置。
  6. 　前記画素読出手段は、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の一方の位置が分数画素位置であり、他方の位置が整数画素位置である場合、前記参照画像の直交する2方向に並ぶ画素を含む前記所定の画素を読み出す
    　請求項１に記載の画像処理装置。
  7. 　前記画素読出手段は、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の一方の位置が分数画素位置であり、他方の位置が整数画素位置である場合、前記参照画像の水平方向および垂直方向に並ぶ画素を含む前記所定の画素を読み出す
    　請求項６に記載の画像処理装置。
  8. 　前記予測画像と符号化対象の画像の差分を演算する差分演算手段
    　をさらに備える
    　請求項１に記載の画像処理装置。
  9. 　前記予測画像と復号対象の画像を加算する加算演算手段
    　をさらに備える
    　請求項１に記載の画像処理装置。
  10. 　画像処理装置が、
    　インター予測における参照画像から所定の画素を読み出す画素読出ステップと、
    　前記画素読出ステップの処理により読み出された前記所定の画素を用いて、前記参照画像の分数画素位置の画素を前記インター予測における予測画像の画素として演算する演算ステップと
    　を含み、
    　前記画素読出ステップの処理では、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置ではない分数画素位置である場合、前記参照画像の直交する2つの斜め方向に並ぶ画素を含む前記所定の画素を読み出す
    　画像処理方法。
  11. 　コンピュータに、
    　インター予測における参照画像から所定の画素を読み出す画素読出ステップと、
    　前記画素読出ステップの処理により読み出された前記所定の画素を用いて、前記参照画像の分数画素位置の画素を前記インター予測における予測画像の画素として演算する演算ステップと
    　を含み、
    　前記画素読出ステップの処理では、前記予測画像の画素の前記参照画像上の水平方向および垂直方向の位置が、1/2画素位置ではない分数画素位置である場合、前記参照画像の直交する2つの斜め方向に並ぶ画素を含む前記所定の画素を読み出す
    　処理を実行させるためのプログラム。
PCT/JP2011/077509 2010-12-07 2011-11-29 画像処理装置、画像処理方法、およびプログラム WO2012077532A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN2011800580637A CN103238331A (zh) 2010-12-07 2011-11-29 图像处理装置、图像处理方法以及程序
US13/877,393 US20130195187A1 (en) 2010-12-07 2011-11-29 Image processing device, image processing method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2010-272806 2010-12-07
JP2010272806A JP2012124673A (ja) 2010-12-07 2010-12-07 画像処理装置、画像処理方法、およびプログラム

Publications (1)

Publication Number Publication Date
WO2012077532A1 true WO2012077532A1 (ja) 2012-06-14

Family

ID=46207023

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2011/077509 WO2012077532A1 (ja) 2010-12-07 2011-11-29 画像処理装置、画像処理方法、およびプログラム

Country Status (4)

Country Link
US (1) US20130195187A1 (ja)
JP (1) JP2012124673A (ja)
CN (1) CN103238331A (ja)
WO (1) WO2012077532A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103338377A (zh) * 2013-07-11 2013-10-02 青岛海信信芯科技有限公司 用于确定运动估计中最优运动矢量的方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014086961A (ja) * 2012-10-25 2014-05-12 Sharp Corp 画像符号化装置
US10057590B2 (en) * 2014-01-13 2018-08-21 Mediatek Inc. Method and apparatus using software engine and hardware engine collaborated with each other to achieve hybrid video encoding
CN111698514B (zh) * 2019-03-12 2022-04-15 北京大学 一种基于深度学习的多模式分像素插值方法
WO2024050187A1 (en) * 2022-08-31 2024-03-07 Qualcomm Incorporated Apparatuses and methods for processing single instruction for image transformation from non-integral locations

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008503960A (ja) * 2004-06-23 2008-02-07 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ピクセル補間
JP2008536414A (ja) * 2005-04-13 2008-09-04 ゴットフリート・ヴィルヘルム・ライプニッツ・ウニヴェルジテート・ハノーヴァー ビデオの拡張された符号化方法及び装置
WO2009126924A1 (en) * 2008-04-10 2009-10-15 Qualcomm Incorporated Interpolation filter support for sub-pixel resolution in video coding

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1120970B1 (en) * 1996-05-17 2003-01-29 Matsushita Electric Industrial Co., Ltd. Image decoding apparatus with object area decoding means and shape decoding means
JP2003224854A (ja) * 2002-01-29 2003-08-08 Hitachi Ltd 動きベクトル検出装置及び画像処理装置並びにコンピュータ・ソフトウエア
CN1232126C (zh) * 2002-09-30 2005-12-14 三星电子株式会社 图像编码方法和装置以及图像解码方法和装置
JP3997171B2 (ja) * 2003-03-27 2007-10-24 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、動画像復号装置、動画像復号方法、及び動画像復号プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008503960A (ja) * 2004-06-23 2008-02-07 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ピクセル補間
JP2008536414A (ja) * 2005-04-13 2008-09-04 ゴットフリート・ヴィルヘルム・ライプニッツ・ウニヴェルジテート・ハノーヴァー ビデオの拡張された符号化方法及び装置
WO2009126924A1 (en) * 2008-04-10 2009-10-15 Qualcomm Incorporated Interpolation filter support for sub-pixel resolution in video coding

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"Test Model under Consideration", JOINT COLLABORATIVE TEAM ON VIDEO CODING (JCT-VC) OF ITU-T SG16 WP3 AND ISO/IEC JTC1/SC29/WG11, October 2010 (2010-10-01), GENEVA, pages 97 - 98 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103338377A (zh) * 2013-07-11 2013-10-02 青岛海信信芯科技有限公司 用于确定运动估计中最优运动矢量的方法

Also Published As

Publication number Publication date
US20130195187A1 (en) 2013-08-01
CN103238331A (zh) 2013-08-07
JP2012124673A (ja) 2012-06-28

Similar Documents

Publication Publication Date Title
JP5240530B2 (ja) 画像処理装置および方法
JP5812372B2 (ja) 復号装置および方法
WO2011018965A1 (ja) 画像処理装置および方法
US20110164684A1 (en) Image processing apparatus and method
WO2012096229A1 (ja) 符号化装置および符号化方法、並びに復号装置および復号方法
WO2010101064A1 (ja) 画像処理装置および方法
WO2010035731A1 (ja) 画像処理装置および方法
JP5581688B2 (ja) 画像処理装置および方法、並びにプログラム
US20110170605A1 (en) Image processing apparatus and image processing method
WO2011086964A1 (ja) 画像処理装置および方法、並びにプログラム
WO2011152315A1 (ja) 画像処理装置および方法
JPWO2010064675A1 (ja) 画像処理装置および画像処理方法、並びにプログラム
WO2013065572A1 (ja) 符号化装置および方法、並びに、復号装置および方法
JP2011223337A (ja) 画像処理装置および方法
WO2012077695A1 (ja) 画像処理装置、画像処理方法、およびプログラム
WO2010064674A1 (ja) 画像処理装置および画像処理方法、並びにプログラム
WO2010010943A1 (ja) 画像処理装置および方法
WO2011078001A1 (ja) 画像処理装置および方法、並びにプログラム
WO2012077532A1 (ja) 画像処理装置、画像処理方法、およびプログラム
WO2010038858A1 (ja) 画像処理装置および方法
WO2011096318A1 (ja) 画像処理装置および方法
WO2010101063A1 (ja) 画像処理装置および方法
WO2012077575A1 (ja) 符号化装置および符号化方法、並びに復号装置および復号方法
WO2013065571A1 (ja) 画像処理装置および画像処理方法
JP2012129925A (ja) 画像処理装置および方法、並びに、プログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11847274

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 13877393

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 11847274

Country of ref document: EP

Kind code of ref document: A1