JP2008219628A - Motion compensation apparatus - Google Patents

Motion compensation apparatus Download PDF

Info

Publication number
JP2008219628A
JP2008219628A JP2007056150A JP2007056150A JP2008219628A JP 2008219628 A JP2008219628 A JP 2008219628A JP 2007056150 A JP2007056150 A JP 2007056150A JP 2007056150 A JP2007056150 A JP 2007056150A JP 2008219628 A JP2008219628 A JP 2008219628A
Authority
JP
Japan
Prior art keywords
image
motion
motion vector
motion compensation
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007056150A
Other languages
Japanese (ja)
Other versions
JP4781301B2 (en
Inventor
Kazuhisa Iguchi
和久 井口
Shinichi Sakaida
慎一 境田
Jiro Katto
二郎 甲藤
Junya Suzuki
惇也 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2007056150A priority Critical patent/JP4781301B2/en
Publication of JP2008219628A publication Critical patent/JP2008219628A/en
Application granted granted Critical
Publication of JP4781301B2 publication Critical patent/JP4781301B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a motion compensation apparatus which improves image quality of a decoded image. <P>SOLUTION: A decoder 11 inputs a stream encoded by a predetermined standard and outputs a decoded image. A motion vector is included in the stream. A high-precision motion compensation section 12 inputs a high-precision vector, performs motion compensation on an outputted frame and outputs a motion compensated image. A selection section 13 compares, for each region, the decoded image outputted from the decoder 11 with the motion compensated image which is motion-compensated by the high-precision motion compensation section 12, and selects out an image with higher image quality for each region. A frame memory 14 stores an output image and outputs a stored frame to the high-precision motion compensation section 12. Thus, motion compensation is performed on next and following frames in the high-precision motion compensation section 12. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、復号画像の画質を向上する動き補償装置に関する。   The present invention relates to a motion compensation device that improves the image quality of a decoded image.

現在、デジタル放送では、画像の圧縮符号化にMPEG−2方式及びAVC/H.264方式が広く用いられている。デジタル放送では、デコーダの互換性の確保やコスト低減のために、符号化規格で許容されるパラメータを更に制限した運用規定が設けられている。   Currently, in digital broadcasting, MPEG-2 and AVC / H. The H.264 system is widely used. In digital broadcasting, in order to ensure decoder compatibility and reduce costs, operational rules are provided that further limit the parameters allowed in the coding standard.

普及したデコーダに対するサービスを継続するために、符号化方式や運用規定が拡張されることは放送では稀である。一方、デコーダを構成するデバイスの性能は年々向上するので、後年に開発されるデコーダ又はデコード機能を内包する装置は、高い演算能力を有する。そのために、符号化方式や運用規定が確定された後に開発されたデコーダは、符号化規定や運用規定で定められた演算以上の複雑な画像処理が可能となる。   In order to continue the service for the popular decoders, it is rare for broadcasting to expand the encoding method and the operating rules. On the other hand, since the performance of devices constituting the decoder is improved year by year, a device that incorporates a decoder or a decoding function that will be developed later has a high computing capability. For this reason, a decoder developed after the encoding method and operation rules are determined can perform more complex image processing than the operations defined in the encoding rules and operation rules.

画像の圧縮符号化における動き補償処理で用いる動きベクトルは、精度が高くなるに従って、符号化された画像の画質が向上する。しかしながら、精度の高い動きベクトルを用いると、エンコーダ及びデコーダの演算量が向上する。動きベクトルの精度は、デバイスの進歩に応じて定められ、新しい符号化規格ほど高い精度になっている。例えば、MPEG−1及びMPEG2では0.5画素の精度の動きベクトルを使用し、MPEG−4では0.5〜0.25画素の精度の動きベクトルを使用し、MPEG−4 AVC/H.264では0.25画素の精度の動きベクトルを使用している。なお、本明細書において、動きベクトルの「精度」とは、「正確さ」ではなく「単位」又は「刻み」を意味するものとする。   As the accuracy of the motion vector used in the motion compensation processing in image compression encoding increases, the image quality of the encoded image improves. However, the use of highly accurate motion vectors improves the amount of computation of the encoder and decoder. The accuracy of the motion vector is determined according to the progress of the device, and the newer encoding standard has higher accuracy. For example, MPEG-1 and MPEG2 use a motion vector with an accuracy of 0.5 pixels, MPEG-4 uses a motion vector with an accuracy of 0.5 to 0.25 pixels, and MPEG-4 AVC / H. H.264 uses motion vectors with an accuracy of 0.25 pixels. In this specification, “accuracy” of a motion vector means “unit” or “step” instead of “accuracy”.

現在使用されているエンコーダでは、Pフレーム及びBフレームに比べて多くの符号量をIフレームに割り当てている。したがって、Iフレームの画質はPフレーム及びBフレームの画質より高くなっている。
インプレス標準教科書シリーズ改訂版H.264/AVC教科書(ISBN4−8443−2204−4)第20〜21頁、第48頁 インプレス
In the encoder currently used, a larger amount of code is assigned to the I frame than the P frame and the B frame. Therefore, the image quality of the I frame is higher than the image quality of the P frame and the B frame.
Impress standard textbook series revised edition H.264 / AVC textbook (ISBN 4-8443-2204-4), pages 20-21, page 48 Impress

カメラがパンしている画像や被写体が移動している画像では、移動速度が符号化規格の動きベクトルの精度と合致していない領域が多く存在する。そのような領域では、物体の本来の動きとは若干異なる動きベクトルを用いて動き補償予測が行われる。   In an image where the camera is panning or an image where the subject is moving, there are many areas where the moving speed does not match the accuracy of the motion vector of the coding standard. In such a region, motion compensation prediction is performed using a motion vector slightly different from the original motion of the object.

フレームごとに0.25画素のパンニングが行われている画像を、動き補償精度が0.5画素の方式で(先頭のフレームをIフレームとして符号化するとともに後のフレームをPフレームとして符号化する)IPPP構造で符号化する例を、図15に示す。   An image in which panning of 0.25 pixels is performed for each frame is encoded with a motion compensation accuracy of 0.5 pixels (the first frame is encoded as an I frame and the subsequent frame is encoded as a P frame) FIG. 15 shows an example of encoding with the IPPP structure.

最初のフレームをIフレームとして原画像1を符号化し、それを復号することによって復号画像2が得られる。2フレーム(Pフレーム)目からは、復号画像2を0.5画素の精度で動き補償した予測画像3と、予測画像3と原画像4との差分画像5を圧縮した復号画像6とが得られる。ここで、原画像4は、一つ前のフレームに対して0.25画素の動きをしているにもかかわらず、符号化方式の制限により、予測画像3は、1フレーム前の復号画像2を0.5画素の精度で移動して作成され、すなわち、ブロックにより0画素の移動又は0.5画素の移動が行われる。そのために、予測画像3と原画像4との間に0.25画素シフト分の誤差が存在し、このような誤差が復号画像6の画質を低下させる原因となる。   The decoded image 2 is obtained by encoding the original image 1 with the first frame as an I frame and decoding it. From the second frame (P frame), a predicted image 3 obtained by motion-compensating the decoded image 2 with an accuracy of 0.5 pixels and a decoded image 6 obtained by compressing the difference image 5 between the predicted image 3 and the original image 4 are obtained. It is done. Here, although the original image 4 moves 0.25 pixels with respect to the previous frame, the predicted image 3 is the decoded image 2 of the previous frame due to the limitation of the encoding method. Are moved with an accuracy of 0.5 pixels, that is, 0 pixels are moved or 0.5 pixels are moved by the block. For this reason, there is an error of 0.25 pixel shift between the predicted image 3 and the original image 4, and such an error causes the quality of the decoded image 6 to deteriorate.

3フレーム目では、復号画像6を0.5画素精度で動き補償した予測画像7と、予測画像7と原画像8との差分画像9とが得られる。ここでも同様に、予測画像7は、本来の動きとは異なる動きベクトルによって動き補償されているので、予測画像7は、原画像8とは0.25画素シフト分の誤差が存在するだけでなく、既に画質が低下した復号画像6を元にしているので予測画像7と原画像8との間の誤差は大きな値となり、復号画像10の画質は更に低下する。   In the third frame, a predicted image 7 obtained by motion compensation of the decoded image 6 with 0.5 pixel accuracy and a difference image 9 between the predicted image 7 and the original image 8 are obtained. Similarly, since the predicted image 7 is motion-compensated by a motion vector different from the original motion, the predicted image 7 not only has an error of 0.25 pixel shift from the original image 8, but also Since the decoded image 6 whose image quality has already been reduced is used as a base, the error between the predicted image 7 and the original image 8 becomes a large value, and the image quality of the decoded image 10 further decreases.

このように本来の動きベクトルより下の精度の動き補償を行うと、各フレームの動き補償予測誤差が大きくなり、画像劣化の原因となる。さらに、予測誤差を送信するための十分なビットレートがない場合、フレームごとに劣化が蓄積する。   As described above, when motion compensation with accuracy lower than the original motion vector is performed, the motion compensation prediction error of each frame becomes large, which causes image degradation. Furthermore, when there is not a sufficient bit rate for transmitting the prediction error, deterioration accumulates for each frame.

本発明の目的は、復号画像の画質を向上する動き補償装置を提供することである。   An object of the present invention is to provide a motion compensation device that improves the image quality of a decoded image.

本発明による第1の動き補償装置は、
所定の規格で符号化された、第1の動きベクトルを含むストリームが入力されるとともに、復号画像を生成する復号手段と、
前記第1の動きベクトルより高い精度の第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記復号画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記出力画像を蓄積し、蓄積した出力画像を前記補償手段に出力する蓄積手段とを具えることを特徴とする。
A first motion compensation apparatus according to the present invention includes:
A decoding unit that receives the stream including the first motion vector, encoded according to a predetermined standard, and generates a decoded image;
A second motion vector having a higher accuracy than the first motion vector is input, and compensation means for motion-compensating an image using the second motion vector to generate a motion-compensated image;
Generating means for generating an output image based on the decoded image and the motion compensated image;
And storing means for storing the output image and outputting the stored output image to the compensation means.

本発明による第2の動き補償装置は、
所定の規格で符号化された、第1の動きベクトルを含むストリームが入力されるとともに、復号画像を生成する復号手段と、
前記第1の動きベクトルより高い精度の第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記復号画像及び前記動き補償画像に基づいて出力画像を生成する生成手段とを具え、
前記復号手段が、
前記出力画像を蓄積し、蓄積した出力画像を前記補償手段に出力する蓄積手段を有することを特徴とする。
The second motion compensation apparatus according to the present invention is:
A decoding unit that receives the stream including the first motion vector, encoded according to a predetermined standard, and generates a decoded image;
A second motion vector having a higher accuracy than the first motion vector is input, and compensation means for motion-compensating an image using the second motion vector to generate a motion-compensated image;
Generating means for generating an output image based on the decoded image and the motion compensated image,
The decoding means comprises:
It has an accumulation means for accumulating the output image and outputting the accumulated output image to the compensation means.

本発明による第3の動き補償装置は、
所定の規格で符号化された、第1の動きベクトルを含むストリームが入力されるとともに、復号画像を生成する復号手段と、
前記第1の動きベクトルより高い精度の第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記復号画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記復号画像及び前記出力画像を蓄積し、蓄積した復号画像と出力画像のうちの一方を前記補償手段に出力する蓄積手段とを具えることを特徴とする。
The third motion compensation apparatus according to the present invention is:
A decoding unit that receives the stream including the first motion vector, encoded according to a predetermined standard, and generates a decoded image;
A second motion vector having a higher accuracy than the first motion vector is input, and compensation means for motion-compensating an image using the second motion vector to generate a motion-compensated image;
Generating means for generating an output image based on the decoded image and the motion compensated image;
The decoded image and the output image are stored, and storage means for outputting one of the stored decoded image and output image to the compensation unit is provided.

本発明による第4の動き補償装置は、
本発明による第1〜3の動き補償装置において、前記第1の動きベクトル及び前記第1の動きベクトルと前記第2の動きベクトルとの差分ベクトルが入力されるとともに、前記第1の動きベクトルと前記差分ベクトルとを加算して前記第2の動きベクトルを生成し、前記第2の動きベクトルを前記補償手段に出力する加算手段を更に具えることを特徴とする。
A fourth motion compensation apparatus according to the present invention includes:
In the first to third motion compensation apparatuses according to the present invention, the first motion vector and a difference vector between the first motion vector and the second motion vector are input, and the first motion vector An addition means for adding the difference vector to generate the second motion vector and outputting the second motion vector to the compensation means is further provided.

本発明による第5の動き補償装置は、
入力画像を、所定の規格で符号化された、第1の動きベクトルを含むストリームに符号化し、前記ストリームをデコーダに出力する符号化手段と、
既に出力された画像と前記入力画像との間で、前記第1の動きベクトルより高い精度の第2の動きベクトルを検出する検出手段と、
前記第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記ストリームをデコードして得られる画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記出力画像を蓄積し、蓄積した出力画像を前記検出手段及び前記補償手段に出力する蓄積手段とを具えることを特徴とする。
A fifth motion compensation apparatus according to the present invention includes:
Encoding means for encoding an input image into a stream including a first motion vector encoded according to a predetermined standard, and outputting the stream to a decoder;
Detecting means for detecting a second motion vector with higher accuracy than the first motion vector between the already output image and the input image;
Compensation means for generating a motion compensated image by motion-compensating an image using the second motion vector while the second motion vector is input;
Generating means for generating an output image based on the image obtained by decoding the stream and the motion compensated image;
And storing means for accumulating the output image and outputting the accumulated output image to the detecting means and the compensating means.

本発明による第6の動き補償装置は、
入力画像を、所定の規格で符号化された、第1の動きベクトルを含むストリームに符号化し、前記ストリームをデコーダに出力する符号化手段と、
既に出力された画像と前記入力画像との間で、前記第1の動きベクトルより高い精度の第2の動きベクトルを検出する検出手段と、
前記第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記ストリームをデコードして得られる画像及び前記動き補償画像に基づいて出力画像を生成する生成手段とを具え、
前記符号化手段が、
前記出力画像を蓄積し、蓄積した出力画像を前記動きベクトル検出手段及び前記補償手段に出力する蓄積手段を有することを特徴とする。
A sixth motion compensation apparatus according to the present invention includes:
Encoding means for encoding an input image into a stream including a first motion vector encoded according to a predetermined standard, and outputting the stream to a decoder;
Detecting means for detecting a second motion vector with higher accuracy than the first motion vector between the already output image and the input image;
Compensation means for generating a motion compensated image by motion-compensating an image using the second motion vector while the second motion vector is input;
Generating means for generating an output image based on the image obtained by decoding the stream and the motion compensated image,
The encoding means is
It has an accumulating means for accumulating the output image and outputting the accumulated output image to the motion vector detecting means and the compensating means.

本発明による第7の動き補償装置は、
入力画像を、所定の規格で符号化された、第1の動きベクトルを含むストリームに符号化し、前記ストリームを、デコーダに出力する符号化手段と、
既に出力された画像と前記入力画像との間で、前記第1の動きベクトルより高い精度の第2の動きベクトルを検出する検出手段と、
前記第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記ストリームをデコードして得られる画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記ストリームをデコードして得られる画像及び前記出力画像を蓄積し、蓄積した復号画像と出力画像のうちの一方を前記検出手段及び前記補償手段に出力する蓄積手段とを具えることを特徴とする。
A seventh motion compensation apparatus according to the present invention includes:
Encoding means for encoding an input image into a stream encoded with a predetermined standard and including a first motion vector, and outputting the stream to a decoder;
Detecting means for detecting a second motion vector with higher accuracy than the first motion vector between the already output image and the input image;
Compensation means for generating a motion compensated image by motion-compensating an image using the second motion vector while the second motion vector is input;
Generating means for generating an output image based on the image obtained by decoding the stream and the motion compensated image;
And storing an image obtained by decoding the stream and the output image, and storing means for outputting one of the stored decoded image and output image to the detection unit and the compensation unit. .

本発明による第8の動き補償装置は、
前記第1の動きベクトル及び前記第2の動きベクトルが入力されるとともに、前記第1の動きベクトルから前記第2の動きベクトルを減算して、前記第1の動きベクトルと前記第2の動きベクトルとの差分ベクトルを生成する減算手段を更に具えることを特徴とする。
An eighth motion compensation apparatus according to the present invention includes:
The first motion vector and the second motion vector are input, and the first motion vector and the second motion vector are subtracted from the first motion vector by subtracting the second motion vector. Further, subtracting means for generating a difference vector is provided.

本発明によれば、第1の動きベクトルより高い精度の第2の動きベクトルを用いて画像の動き補償を行うので、画像の本来の動きに適合した動きベクトルを用いて動き補償を行うことができるようになり、その結果、復号画像の画質を向上することができる。   According to the present invention, since motion compensation of an image is performed using a second motion vector with higher accuracy than the first motion vector, motion compensation can be performed using a motion vector that matches the original motion of the image. As a result, the image quality of the decoded image can be improved.

本発明による動き補償装置の実施の形態を、図面を参照して詳細に説明する。
図1は、本発明による動き補償装置の第1の実施の形態のブロック図である。デジタル放送などに適用される本実施の形態の動き補償装置は、デコーダ11と、高精度動き補償部12と、選択部13と、フレームメモリ14とを具える。
Embodiments of a motion compensation apparatus according to the present invention will be described in detail with reference to the drawings.
FIG. 1 is a block diagram of a first embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment applied to digital broadcasting or the like includes a decoder 11, a high-precision motion compensation unit 12, a selection unit 13, and a frame memory 14.

デコーダ11は、MPEG−2などの符号化方式が適用される従来のデコーダであり、符号化規格や運用規定のような所定の規格で符号化されたストリームが入力され、復号画像を出力する。ストリームには動きベクトルが含まれる。高精度動き補償部12は、ストリームに含まれる動きベクトルより精度が高いベクトル(以下、「高精度ベクトル」と称する。)が入力され、既に出力されたフレームを動き補償して動き補償画像を出力する。本実施の形態では、高精度動き補償を、適用する符号化方式で用いられるブロックサイズと同一サイズのブロックごとに画像を分割して行い、ストリームに含まれる動きベクトルの精度と高精度ベクトルの精度の組合せを、0.5画素と0.25画素とする。   The decoder 11 is a conventional decoder to which an encoding method such as MPEG-2 is applied, and receives a stream encoded according to a predetermined standard such as an encoding standard or an operation rule, and outputs a decoded image. The stream includes a motion vector. The high-precision motion compensation unit 12 receives a vector with higher accuracy than the motion vector included in the stream (hereinafter referred to as “high-precision vector”), and compensates the already output frame for motion compensation and outputs a motion compensated image. To do. In the present embodiment, high-precision motion compensation is performed by dividing an image into blocks each having the same size as the block size used in the encoding scheme to be applied, and the accuracy of the motion vector included in the stream and the accuracy of the high-precision vector Is a combination of 0.5 pixels and 0.25 pixels.

選択部13は、デコーダ11から出力された復号画像と、高精度動き補償部12によって動き補償された動き補償画像とを領域ごとに比較し、領域ごとに画質の高い方を選択して出力する。フレームメモリ14は、出力画像を蓄積し、蓄積されたフレームを高精度動き補償部12に出力する。これによって、高精度動き補償部12において次フレーム以降の動き補償が行われる。   The selection unit 13 compares the decoded image output from the decoder 11 with the motion compensated image motion-compensated by the high-precision motion compensation unit 12 for each region, and selects and outputs the higher image quality for each region. . The frame memory 14 accumulates the output image and outputs the accumulated frame to the high-precision motion compensation unit 12. As a result, the high-precision motion compensation unit 12 performs motion compensation in the subsequent frames.

本実施の形態の動作を、図2を用いて説明する。本実施の形態によれば、動き補償フレームのみを画質向上するために、最初のフレームは、デコーダ11が出力する復号画像2を出力する。復号画像2は、フレームメモリ14に蓄積される。   The operation of this embodiment will be described with reference to FIG. According to the present embodiment, in order to improve the image quality of only the motion compensation frame, the decoded image 2 output from the decoder 11 is output as the first frame. The decoded image 2 is stored in the frame memory 14.

2フレーム目では、高精度動き補償部12において、復号画像2を精度0.25の高精度ベクトルによって動き補償した動き補償画像15を生成する。選択部13では、動き補償画像15と、デコーダが出力した復号画像3とを領域ごとに比較し、領域ごとに画質の高い方を選択して出力画像16を出力する。ここで、動き補償画像15は、原画像4の動きと同じ動きベクトルによって動き補償した画像であるため、原画像4と非常に類似している。したがって、選択部13では、画面内のほとんどの領域について動き補償画像15を出力する。出力画像16は、フレームメモリ14で蓄積され、次フレーム以降の動き補償で利用される。   In the second frame, the high-precision motion compensation unit 12 generates a motion compensated image 15 in which the decoded image 2 is motion-compensated with a high-precision vector with an accuracy of 0.25. The selection unit 13 compares the motion compensated image 15 and the decoded image 3 output by the decoder for each region, selects the higher image quality for each region, and outputs the output image 16. Here, the motion compensated image 15 is an image that has been motion compensated by the same motion vector as the motion of the original image 4, and thus is very similar to the original image 4. Therefore, the selection unit 13 outputs the motion compensated image 15 for most areas in the screen. The output image 16 is accumulated in the frame memory 14 and used for motion compensation in the subsequent frames.

従来のデコーダでは、本来の動きと異なる動きベクトルで動き補償した結果として生じる誤差により画質が劣化するが、本実施の形態によれば、高精度ベクトル、すなわち、符号化規格より高い精度の動きベクトルを用いることによって、(Iフレームの)高い画質を維持することができる。また、符号化規格や運用規定のような所定の規格で符号化された従来のストリームが用いられるので、従来のデコーダでも復号可能である。   In the conventional decoder, the image quality deteriorates due to an error generated as a result of motion compensation with a motion vector different from the original motion. However, according to the present embodiment, a high-precision vector, that is, a motion vector with higher accuracy than the encoding standard By using, high image quality (of I frames) can be maintained. In addition, since a conventional stream encoded according to a predetermined standard such as an encoding standard or operation regulations is used, it can be decoded by a conventional decoder.

ストリームの他に上記実施の形態による動き補償装置に入力すべき情報は、高精度動きベクトルだけであるので、ストリームに比べて低いビットレートの増加で復号画像の画質を向上することができる。   In addition to the stream, the only information to be input to the motion compensation apparatus according to the above embodiment is a high-precision motion vector, so that the image quality of the decoded image can be improved by increasing the bit rate lower than that of the stream.

図3は、本発明による動き補償装置の第2の実施の形態のブロック図である。デジタル放送などに適用される本実施の形態の動き補償装置は、エンコーダ21と、高精度動きベクトル検出部22と、高精度動き補償部23と、選択部24と、フレームメモリ25とを具える。   FIG. 3 is a block diagram of a second embodiment of the motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment applied to digital broadcasting or the like includes an encoder 21, a high-precision motion vector detection unit 22, a high-precision motion compensation unit 23, a selection unit 24, and a frame memory 25. .

エンコーダ21は、MPEG−2などの符号化方式が適用される従来のエンコーダであり、入力画像をストリームに符号化し、そのストリームを図1のデコーダ11に出力する。高精度ベクトル検出部22は、フレームメモリ25の出力と入力画像との間で高精度動きベクトルを検出する。高精度動き補償部23は、高精度ベクトル検出部22から高精度ベクトルが入力され、フレームメモリ25の出力を動き補償して動き補償画像を出力する。   The encoder 21 is a conventional encoder to which an encoding method such as MPEG-2 is applied, encodes an input image into a stream, and outputs the stream to the decoder 11 in FIG. The high-precision vector detection unit 22 detects a high-precision motion vector between the output of the frame memory 25 and the input image. The high-precision motion compensation unit 23 receives the high-precision vector from the high-precision vector detection unit 22, and performs motion compensation on the output of the frame memory 25 to output a motion compensated image.

選択部24は、入力画像と、高精度動き補償部23によって動き補償された動き補償画像とを領域ごとに比較し、領域ごとに画質の高い方を選択して出力画像をフレームメモリ25に出力する。フレームメモリ25は、出力画像を蓄積し、蓄積されたフレームを高精度動きベクトル検出部22及び高精度動き補償部23に出力する。   The selection unit 24 compares the input image and the motion compensated image motion-compensated by the high-precision motion compensation unit 23 for each region, selects the higher image quality for each region, and outputs the output image to the frame memory 25 To do. The frame memory 25 accumulates output images and outputs the accumulated frames to the high-precision motion vector detection unit 22 and the high-precision motion compensation unit 23.

本実施の形態によれば、上記第1の実施の形態の動き補償装置に入力されるストリーム及び高精度動きベクトルを生成することができる。   According to the present embodiment, it is possible to generate a stream and a high-precision motion vector that are input to the motion compensation apparatus of the first embodiment.

図4は、本発明による動き補償装置の第3の実施の形態のブロック図である。本実施の形態の動き補償装置は、デコーダ31と、高精度動き補償部32と、選択部33とを具える。   FIG. 4 is a block diagram of a third embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment includes a decoder 31, a high-precision motion compensation unit 32, and a selection unit 33.

本実施の形態では、デコーダ31は、デコーダ31から出力された復号画像を蓄積する図示しないフレームメモリを有する。このようなフレームメモリは、MPEG−2方式やAVC/H.264方式などの動き補償予測を用いる符号化規格のデコーダは元来有している。このフレームメモリは、蓄積されたフレームを高精度動き補償部32に出力する。本実施の形態によれば、追加のフレームメモリを有することなく復号画像の画質を向上するため、リソースが限られている場合に有利である。   In the present embodiment, the decoder 31 has a frame memory (not shown) that accumulates the decoded image output from the decoder 31. Such a frame memory includes MPEG-2, AVC / H. The decoder of the encoding standard using motion compensation prediction such as H.264 system originally has. The frame memory outputs the accumulated frames to the high-precision motion compensation unit 32. According to the present embodiment, the image quality of the decoded image is improved without having an additional frame memory, which is advantageous when resources are limited.

図5は、本発明による動き補償装置の第4の実施の形態のブロック図である。上記第3の実施の形態の動き補償装置に入力されるストリーム及び高精度動きベクトルを生成する本実施の形態の動き補償装置は、エンコーダ41と、高精度動きベクトル検出部42と、高精度動き補償部43と、選択部44とを具える。   FIG. 5 is a block diagram of a fourth embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus of the present embodiment that generates a stream and a high-precision motion vector input to the motion compensation apparatus of the third embodiment includes an encoder 41, a high-precision motion vector detection unit 42, and a high-precision motion. A compensation unit 43 and a selection unit 44 are provided.

本実施の形態では、エンコーダ41は、エンコーダ41から出力された符号化画像を蓄積する図示しないフレームメモリを有する。このようなフレームメモリは、MPEG−2方式やAVC/H.264方式などの動き補償予測を用いる符号化規格のデコーダは元来有している。このフレームメモリは、蓄積されたフレームを高精度動き補償部12に出力する。本実施の形態によれば、追加のフレームメモリを有することなくストリーム及び高精度動きベクトルを生成するため、リソースが限られている場合に有利である。   In the present embodiment, the encoder 41 has a frame memory (not shown) that stores the encoded image output from the encoder 41. Such a frame memory includes MPEG-2, AVC / H. The decoder of the encoding standard using motion compensation prediction such as H.264 system originally has. This frame memory outputs the accumulated frames to the high-precision motion compensation unit 12. According to the present embodiment, a stream and a high-precision motion vector are generated without an additional frame memory, which is advantageous when resources are limited.

図6は、本発明による動き補償装置の第5の実施の形態のブロック図である。本実施の形態の動き補償装置は、デコーダ51と、高精度動き補償部52と、選択部53と、フレームメモリ54とを具える。   FIG. 6 is a block diagram of a fifth embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment includes a decoder 51, a high-precision motion compensation unit 52, a selection unit 53, and a frame memory 54.

本実施の形態では、デコーダ51から出力される復号画像と選択部53から出力される出力画像の両方がフレームメモリ54に入力され、より高画質な結果を得る方の画像が高精度動き補償部52に入力される。   In the present embodiment, both the decoded image output from the decoder 51 and the output image output from the selection unit 53 are input to the frame memory 54, and the image that obtains a higher quality result is the high-precision motion compensation unit. 52 is input.

図7は、本発明による動き補償装置の第6の実施の形態のブロック図である。上記第5の実施の形態の動き補償装置に入力されるストリーム及び高精度動きベクトルを生成する本実施の形態の動き補償装置は、エンコーダ61と、高精度動きベクトル検出部62と、高精度動き補償部63と、選択部64と、フレームメモリ65とを具える。   FIG. 7 is a block diagram of a sixth embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment for generating a stream and a high-precision motion vector input to the motion compensation apparatus according to the fifth embodiment includes an encoder 61, a high-precision motion vector detection unit 62, and a high-precision motion. Compensation unit 63, selection unit 64, and frame memory 65 are provided.

本実施の形態では、エンコーダ61から出力される符号化画像と選択部64から出力される出力画像の両方がフレームメモリ65に入力され、より高画質な結果を得る方の画像が高精度ベクトル検出部62および高精度動き補償部63に入力される。   In the present embodiment, both the encoded image output from the encoder 61 and the output image output from the selection unit 64 are input to the frame memory 65, and the image with the higher image quality result is detected with high accuracy vector detection. Is input to the unit 62 and the high-precision motion compensation unit 63.

図8は、本発明による動き補償装置の第7の実施の形態のブロック図である。本実施の形態の動き補償装置は、デコーダ71と、加算器72と、高精度動き補償部73と、選択部74と、フレームメモリ75とを具える。   FIG. 8 is a block diagram of a seventh embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment includes a decoder 71, an adder 72, a high-precision motion compensation unit 73, a selection unit 74, and a frame memory 75.

デコーダ71は、直行変換及び動き補償を行う一般的な符号化方式に基づく従来のデコーダであり、エントロピー復号部71aと、逆量子化・逆変換部71bと、動き補償部71cと、加算器71dと、フレームメモリ71eとを具える。   The decoder 71 is a conventional decoder based on a general coding scheme that performs orthogonal transform and motion compensation, and includes an entropy decoding unit 71a, an inverse quantization / inverse transform unit 71b, a motion compensation unit 71c, and an adder 71d. And a frame memory 71e.

デコーダ71が従来のデコーダであるため、本実施の形態では、Pフレームのデコード方法のみ説明する。エントロピー復号部71aは、ストリームをエントロピー復号し、量子化された直交変換係数を逆量子化・逆変換部71bに出力するとともに、動きベクトルを動き補償部71c及び加算器72に出力する。   Since the decoder 71 is a conventional decoder, only the decoding method of the P frame will be described in the present embodiment. The entropy decoding unit 71a entropy-decodes the stream, outputs the quantized orthogonal transform coefficient to the inverse quantization / inverse transform unit 71b, and outputs the motion vector to the motion compensation unit 71c and the adder 72.

逆量子化・逆変換部71bは、量子化された直交変換係数の逆量子化及び逆変換を行い、その出力は、加算器71dにおいて動き補償部71cの出力に加算され、これらの出力の和がデコーダ71の復号画像となる。復号画像は、フレームメモリ71eに蓄積され、次フレームの動き補償で用いられる。動き補償部71cは、フレームメモリ71eが出力するデコーダ71が出力した過去のフレームの画像を、動きベクトルを用いて動き補償し、動き補償画像を出力する。   The inverse quantization / inverse transform unit 71b performs inverse quantization and inverse transform on the quantized orthogonal transform coefficient, and the output is added to the output of the motion compensation unit 71c in the adder 71d, and the sum of these outputs is added. Becomes the decoded image of the decoder 71. The decoded image is stored in the frame memory 71e and used for motion compensation of the next frame. The motion compensation unit 71c performs motion compensation on the past frame image output from the decoder 71 output from the frame memory 71e using a motion vector, and outputs a motion compensated image.

本実施の形態では、加算器72は、動きベクトルと、動きベクトルと高精度動きベクトルとの差分からなる高精度差分ベクトルとを加算して、高精度動きベクトルを生成する。高精度動き補償部73では、加算器72から出力した高精度動きベクトルによってフレームメモリ75の出力を動き補償した動き補償画像を出力する。選択部74では、デコーダ71から出力された復号画像と高精度動き補償部73によって動き補償された動き補償画像のいずれを選択するかの情報である選択情報を受信し、受信した選択情報に基づいて、デコーダ71から出力された復号画像と、高精度動き補償部73によって動き補償された動き補償画像とを領域ごとに選択して出力する。   In the present embodiment, the adder 72 adds a motion vector and a high-precision difference vector made up of the difference between the motion vector and the high-precision motion vector to generate a high-precision motion vector. The high precision motion compensation unit 73 outputs a motion compensated image in which the output of the frame memory 75 is motion compensated with the high precision motion vector output from the adder 72. The selection unit 74 receives selection information that is information indicating which of the decoded image output from the decoder 71 and the motion compensated image motion-compensated by the high-precision motion compensation unit 73 is selected, and based on the received selection information. Thus, the decoded image output from the decoder 71 and the motion compensated image motion-compensated by the high-precision motion compensation unit 73 are selected and output for each region.

本実施の形態によれば、動き補償装置がストリーム以外に受信すべき情報は、高精度動きベクトルとの差分及び選択信号のみであるので、ビットレートの増加を抑制することができる。また、高精度ベクトルと高精度差分ベクトルとを加算して高精度動きベクトルを生成することによって、高精度動きベクトルの伝送ビットレートを低減することができる。   According to the present embodiment, the information to be received by the motion compensation device other than the stream is only the difference from the high-precision motion vector and the selection signal, so that an increase in the bit rate can be suppressed. Also, the transmission bit rate of the high-precision motion vector can be reduced by adding the high-precision vector and the high-precision difference vector to generate a high-precision motion vector.

図9は、本発明による動き補償装置の第8の実施の形態のブロック図である。本実施の形態の動き補償装置は、エンコーダ81と、フレームメモリ82と、高精度動きベクトル検出部83と、高精度動き補償部84と、減算器85と、選択情報生成部86とを具える。   FIG. 9 is a block diagram of an eighth embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment includes an encoder 81, a frame memory 82, a high-precision motion vector detection unit 83, a high-precision motion compensation unit 84, a subtractor 85, and a selection information generation unit 86. .

エンコーダ81は、直行変換及び動き補償を行う一般的な符号化方式に基づく従来のエンコーダであり、入力画像をストリームに符号化し、そのストリームを図8のデコーダ71のエントロピー復号部71aに出力する。このために、エンコーダ81は、動きベクトル検出部81aと、動き補償部81bと、減算器81cと、変換・量子化部81dと、逆量子化・逆変換部81eと、加算器81fと、フレームメモリ81gと、エントロピー符号化部81hとを有する。   The encoder 81 is a conventional encoder based on a general encoding method that performs direct transform and motion compensation, encodes an input image into a stream, and outputs the stream to the entropy decoding unit 71a of the decoder 71 in FIG. For this purpose, the encoder 81 includes a motion vector detection unit 81a, a motion compensation unit 81b, a subtractor 81c, a transform / quantization unit 81d, an inverse quantization / inverse transform unit 81e, an adder 81f, a frame A memory 81g and an entropy encoding unit 81h are included.

高精度動きベクトル検出部83は、フレームメモリ82の出力と入力画像との間で高精度動きベクトルを検出する。高精度動き補償部84は、高精度動きベクトル検出部83で検出された高精度動きベクトルを用いてフレームメモリ82の出力を動き補償し、動き補償画像を生成する。選択情報生成部86は、エンコーダ81のローカルデコード出力及び高精度動き補償部84から出力された動き補償画像を入力画像と比較し、図8の選択部74に入力される選択情報を出力するとともに、選択結果の画像をフレームメモリ82に出力する。なお、MPEG−2などの一般的な動画像のエンコーダは、内部で自ら図ローカルデコードを行う。高精度差分ベクトル及び選択情報は、後段においてまとめてエントロピー符号化して伝送される。   The high-precision motion vector detection unit 83 detects a high-precision motion vector between the output of the frame memory 82 and the input image. The high-precision motion compensation unit 84 performs motion compensation on the output of the frame memory 82 using the high-precision motion vector detected by the high-precision motion vector detection unit 83, and generates a motion compensated image. The selection information generation unit 86 compares the local decoded output of the encoder 81 and the motion compensated image output from the high-precision motion compensation unit 84 with the input image, and outputs the selection information input to the selection unit 74 of FIG. The selection result image is output to the frame memory 82. It should be noted that a general moving image encoder such as MPEG-2 performs figure local decoding by itself. The high-precision difference vector and the selection information are collectively entropy-encoded and transmitted at the subsequent stage.

減算器85は、エンコーダ81から出力されるエンコーダの動きベクトルと、高精度動きベクトルとの差分(高精度差分ベクトル)を求め、図8の加算器72に入力される高精度差分ベクトルを出力する。このように高精度差分ベクトルを送信することによって、高精度動きベクトルの伝送ビットレートを低減することができる。   The subtracter 85 obtains a difference (high accuracy difference vector) between the encoder motion vector output from the encoder 81 and the high accuracy motion vector, and outputs the high accuracy difference vector input to the adder 72 in FIG. . By transmitting the high-precision difference vector in this way, the transmission bit rate of the high-precision motion vector can be reduced.

本実施の形態によれば、上記第7の実施の形態の動き補償装置に入力されるストリーム高精度差分ベクトル及び選択情報を生成することができる。   According to the present embodiment, it is possible to generate a stream high-precision difference vector and selection information that are input to the motion compensation device according to the seventh embodiment.

図10は、本発明による動き補償装置の第9の実施の形態のブロック図である。本実施の形態の動き補償装置は、デコーダ91と、加算器92と、高精度動き補償部93と、選択部94とを具える。   FIG. 10 is a block diagram of a ninth embodiment of the motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment includes a decoder 91, an adder 92, a high-precision motion compensation unit 93, and a selection unit 94.

デコーダ91は、直行変換及び動き補償を行う一般的な符号化方式に基づく従来のデコーダであり、エントロピー復号部91aと、逆量子化・逆変換部91bと、動き補償部91cと、加算器91dと、フレームメモリ91eとを具える。   The decoder 91 is a conventional decoder based on a general coding scheme that performs direct transform and motion compensation, and includes an entropy decoding unit 91a, an inverse quantization / inverse transform unit 91b, a motion compensation unit 91c, and an adder 91d. And a frame memory 91e.

本実施の形態では、フレームメモリ91eは、加算器91dから出力された復号画像を蓄積し、蓄積されたフレームを高精度動き補償部32に出力する。本実施の形態によれば、追加のフレームメモリを有することなく復号画像の画質を向上するため、リソースが限られている場合に有利である。   In the present embodiment, the frame memory 91e stores the decoded image output from the adder 91d and outputs the stored frame to the high-precision motion compensation unit 32. According to the present embodiment, the image quality of the decoded image is improved without having an additional frame memory, which is advantageous when resources are limited.

図11は、本発明による動き補償装置の第10の実施の形態のブロック図である。上記第9の実施の形態の動き補償装置に入力されるストリーム、高精度差分ベクトル及び選択情報を生成する本実施の形態の動き補償装置は、エンコーダ101と、高精度動きベクトル検出部102と、高精度動き補償部103と、減算器104と、選択情報生成部105とを具える。   FIG. 11 is a block diagram of a tenth embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment for generating a stream, a high-precision difference vector, and selection information input to the motion compensation apparatus according to the ninth embodiment includes an encoder 101, a high-precision motion vector detection unit 102, A high-precision motion compensation unit 103, a subtracter 104, and a selection information generation unit 105 are provided.

エンコーダ101は、直行変換及び動き補償を行う一般的な符号化方式に基づく従来のエンコーダであり、動きベクトル検出部101aと、動き補償部101bと、減算器101cと、変換・量子化部101dと、逆量子化・逆変換部101eと、加算器101fと、フレームメモリ101gと、エントロピー符号化部101hとを有する。   The encoder 101 is a conventional encoder based on a general coding method that performs orthogonal transform and motion compensation, and includes a motion vector detection unit 101a, a motion compensation unit 101b, a subtractor 101c, a transform / quantization unit 101d, , An inverse quantization / inverse transform unit 101e, an adder 101f, a frame memory 101g, and an entropy encoding unit 101h.

本実施の形態では、フレームメモリ101gは、加算器101fから出力された復号画像を蓄積し、蓄積されたフレームを高精度動き補償部103に出力する。本実施の形態によれば、追加のフレームメモリを有することなく復号画像の画質を向上するため、リソースが限られている場合に有利である。   In the present embodiment, the frame memory 101g accumulates the decoded image output from the adder 101f and outputs the accumulated frame to the high-precision motion compensation unit 103. According to the present embodiment, the image quality of the decoded image is improved without having an additional frame memory, which is advantageous when resources are limited.

図12は、本発明によって得られる出力画像及び従来のデコーダによって得られる出力画像のグラフである。図12において、横軸にビットレートをとるとともに縦軸にPSNRをとり、本発明による動き補償装置の出力を実線で表し、従来のデコーダの出力を破線で表す。   FIG. 12 is a graph of an output image obtained by the present invention and an output image obtained by a conventional decoder. In FIG. 12, the horizontal axis represents the bit rate and the vertical axis represents PSNR. The output of the motion compensator according to the present invention is represented by a solid line, and the output of a conventional decoder is represented by a broken line.

図12に示すグラフは、図10及び図11に示す動き補償装置において測定した結果であり、実線で示す本発明による動き補償装置の出力は、選択部94の出力に対応し、破線で示す従来のデコーダの出力は、逆量子化・逆変換部91bの出力に対応する。   The graph shown in FIG. 12 is a result measured by the motion compensator shown in FIG. 10 and FIG. 11, and the output of the motion compensator according to the present invention shown by the solid line corresponds to the output of the selection unit 94 and is shown by the broken line in the related art. The decoder output corresponds to the output of the inverse quantization / inverse transform unit 91b.

使用した画像は、幅320画素及び高さ240ラインのパン画像であり、符号化方式としては、動きベクトルの精度が0.5画素のH.263を用い、本発明の高精度動きベクトルの精度として0.25画素を用いた。ビットレートは、従来のデコーダの出力についてはH.263のストリームのビットレートを用い、本発明については、H.263のストリームに加えて、高精度差分ベクトル及び選択情報のビットレートを加算したものを用いた。   The used image is a pan image having a width of 320 pixels and a height of 240 lines. As an encoding method, an H.264 image having a motion vector accuracy of 0.5 pixels is used. 263, and 0.25 pixel was used as the accuracy of the high-precision motion vector of the present invention. The bit rate is H.264 for the output of the conventional decoder. The bit rate of the H.263 stream is used. In addition to the H.263 stream, a high-precision difference vector and the bit rate of the selection information are added.

図10に示すように、本発明による動き補償装置の出力が従来のデコーダに比べて画質が高いことがわかり、したがって、若干のビットレートの増加により出力画像の画質を向上できる。   As shown in FIG. 10, it can be seen that the output of the motion compensator according to the present invention has higher image quality than the conventional decoder, and therefore the image quality of the output image can be improved by slightly increasing the bit rate.

図13は、本発明による動き補償装置の第11の実施の形態のブロック図である。本実施の形態の動き補償装置は、デコーダ111と、加算器112と、高精度動き補償部113と、選択部114と、フレームメモリ115とを具える。   FIG. 13 is a block diagram of an eleventh embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment includes a decoder 111, an adder 112, a high-precision motion compensation unit 113, a selection unit 114, and a frame memory 115.

デコーダ111は、直行変換及び動き補償を行う一般的な符号化方式に基づく従来のデコーダであり、エントロピー復号部111aと、逆量子化・逆変換部111bと、動き補償部111cと、加算器111dと、フレームメモリ111eとを具える。   The decoder 111 is a conventional decoder based on a general coding scheme that performs direct transform and motion compensation, and includes an entropy decoding unit 111a, an inverse quantization / inverse transform unit 111b, a motion compensation unit 111c, and an adder 111d. And a frame memory 111e.

本実施の形態では、選択情報は、フレームメモリ115から出力する画像の選択と選択部114から出力する画像の選択の二つの情報を含む。フレームメモリ111eから出力される復号画像と選択部114から出力される出力画像の両方がフレームメモリ115に入力され、いずれの画像を出力するかの情報を含む選択情報に基づいて選択された画像が高精度動き補償部113に入力される。   In the present embodiment, the selection information includes two types of information: selection of an image output from the frame memory 115 and selection of an image output from the selection unit 114. Both the decoded image output from the frame memory 111e and the output image output from the selection unit 114 are input to the frame memory 115, and an image selected based on selection information including information on which image to output is selected. Input to the high-precision motion compensation unit 113.

図14は、本発明による動き補償装置の第12の実施の形態のブロック図である。上記第11の実施の形態の動き補償装置に入力されるストリーム、高精度差分ベクトル及び選択情報を生成する本実施の形態の動き補償装置は、エンコーダ121と、フレームメモリ122と、高精度動きベクトル検出部123と、高精度動き補償部124と、減算器125と、選択情報生成部126とを具える。   FIG. 14 is a block diagram of a twelfth embodiment of a motion compensation apparatus according to the present invention. The motion compensation apparatus according to the present embodiment for generating a stream, a high-precision difference vector, and selection information input to the motion compensation apparatus according to the eleventh embodiment includes an encoder 121, a frame memory 122, and a high-precision motion vector. A detection unit 123, a high-precision motion compensation unit 124, a subtractor 125, and a selection information generation unit 126 are provided.

エンコーダ121は、直行変換及び動き補償を行う一般的な符号化方式に基づく従来のエンコーダであり、動きベクトル検出部121aと、動き補償部121bと、減算器121cと、変換・量子化部121dと、逆量子化・逆変換部121eと、加算器121fと、フレームメモリ121gと、エントロピー符号化部121hとを有する。   The encoder 121 is a conventional encoder based on a general coding scheme that performs orthogonal transform and motion compensation, and includes a motion vector detection unit 121a, a motion compensation unit 121b, a subtractor 121c, a transform / quantization unit 121d, , An inverse quantization / inverse transform unit 121e, an adder 121f, a frame memory 121g, and an entropy encoding unit 121h.

本実施の形態では、フレームメモリ121gから出力される復号画像と選択情報生成部126から出力される出力画像の両方がフレームメモリ122に入力され、より高画質な結果を得る方の画像が高精度動き補償部124に入力される。どちらの画像を選択したかの信号は、選択情報性西部126に送られ、選択情報の一部として出力される。   In the present embodiment, both the decoded image output from the frame memory 121g and the output image output from the selection information generation unit 126 are input to the frame memory 122, and the image with the higher image quality is obtained with higher accuracy. Input to the motion compensation unit 124. A signal indicating which image is selected is sent to the selection information property western 126 and output as a part of the selection information.

本発明は、上記実施の形態に限定されるものではなく、幾多の変更及び変形が可能である。
例えば、上記実施の形態において、復号画像と動き補償画像とのうちのいずれか一方を出力画像としたが、動き補償画像の代わりに、復号画像と動き補償画像との合成画像を用いることもできる。また、ストリームに含まれる動きベクトルの精度と高精度ベクトルの精度の組合せを、0.5画素と0.25画素とした場合について説明したが、0.25画素と0.125画素のような他の組合せを用いることもできる。
The present invention is not limited to the above-described embodiment, and many changes and modifications can be made.
For example, in the above embodiment, either one of the decoded image and the motion compensated image is used as the output image, but a composite image of the decoded image and the motion compensated image can be used instead of the motion compensated image. . In addition, the case where the combination of the accuracy of the motion vector included in the stream and the accuracy of the high-precision vector is 0.5 pixel and 0.25 pixel has been described. A combination of these can also be used.

また、エンコーダ及びデコーダを、適用する符号化方式に応じて任意の構成にすることができる。また、上記実施の形態において、適用する符号化方式で用いられるブロックサイズと同一サイズのブロックごとに画像を分割して高精度動き補償を行う場合について説明したが、適用する符号化方式で用いられるブロックサイズより大きなブロックサイズを用いることによって高精度差分ベクトル及び選択情報の伝送ビットレートを下げることもでき、適用する符号化方式で用いられるブロックサイズより小さなブロックサイズを用いることによって高精度動き補償の画質を向上することもできる。   In addition, the encoder and the decoder can be arbitrarily configured according to the encoding scheme to be applied. In the above embodiment, the case where high-precision motion compensation is performed by dividing an image for each block having the same size as the block size used in the applied encoding method has been described. The transmission bit rate of the high-precision difference vector and selection information can be reduced by using a block size larger than the block size, and high-precision motion compensation can be achieved by using a block size smaller than the block size used in the applied coding scheme. The image quality can also be improved.

また、高精度差分ベクトル及び選択情報の伝送ビットレートに圧縮処理を施すことによって高精度差分ベクトル及び選択情報の伝送ビットレートを下げることもできる。このような圧縮処理が施された情報を受信する場合には、圧縮処理が施された情報の伸張部を入力部に設ける。   Further, the transmission bit rate of the high-precision difference vector and the selection information can be lowered by performing compression processing on the transmission bit rate of the high-precision difference vector and the selection information. When receiving information subjected to such compression processing, an expansion unit for the information subjected to compression processing is provided in the input unit.

また、高精度差分ベクトルなどの他の情報から選択情報を推定できる場合には、選択情報の受信を省略することができる。例えば、高精度差分ベクトルが水平方向及び垂直方向のいずれにおいても0である場合、デコーダ出力を使用するようにすれば、選択情報を受信しなくても選択部での選択が可能になる。また、選択されない高精度差分ベクトルについては伝送を省略することができる。   Further, when the selection information can be estimated from other information such as a high-precision difference vector, reception of the selection information can be omitted. For example, when the high-precision difference vector is 0 in both the horizontal direction and the vertical direction, if the decoder output is used, the selection unit can select without receiving selection information. Further, transmission of high-precision difference vectors that are not selected can be omitted.

さらに、信号の同期をとるために信号経路に遅延回路を設けることができ、選択部において重み付けを行うこともできる。   Further, a delay circuit can be provided in the signal path to synchronize signals, and weighting can be performed in the selection unit.

本発明による動き補償装置の第1の実施の形態のブロック図である。1 is a block diagram of a first embodiment of a motion compensation apparatus according to the present invention. FIG. 本発明による画像復号を説明するための図である。It is a figure for demonstrating the image decoding by this invention. 本発明による動き補償装置の第2の実施の形態のブロック図である。It is a block diagram of 2nd Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第3の実施の形態のブロック図である。It is a block diagram of 3rd Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第4の実施の形態のブロック図である。It is a block diagram of 4th Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第5の実施の形態のブロック図である。It is a block diagram of 5th Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第6の実施の形態のブロック図である。It is a block diagram of 6th Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第7の実施の形態のブロック図である。It is a block diagram of 7th Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第8の実施の形態のブロック図である。It is a block diagram of 8th Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第9の実施の形態のブロック図である。It is a block diagram of 9th Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第10の実施の形態のブロック図である。It is a block diagram of 10th Embodiment of the motion compensation apparatus by this invention. 本発明によって得られる出力画像及び従来のデコーダによって得られる出力画像のグラフである。It is the graph of the output image obtained by this invention, and the output image obtained by the conventional decoder. 本発明による動き補償装置の第11の実施の形態のブロック図である。It is a block diagram of 11th Embodiment of the motion compensation apparatus by this invention. 本発明による動き補償装置の第12の実施の形態のブロック図である。It is a block diagram of 12th Embodiment of the motion compensation apparatus by this invention. 従来の画像復号を説明するための図である。It is a figure for demonstrating the conventional image decoding.

符号の説明Explanation of symbols

1,4,8 原画像
2,3,7 予測画像
5,9 差分画像
6,10 復号画像
15 動き補償画像
16 出力画像
11,31,51,61,91,111 デコーダ
12,23,32,43,52,63,73,84,93,103,113,124 高精度動き補償部
13,24,33,44,53,64,74,94,114 選択部
14,25,54,65,71e,75,81g,82,91e,101g,111e,115,121g,122 フレームメモリ
21,41,61,81,101,121 エンコーダ
22,42,62,83,102,123 高精度動きベクトル検出部
71a,91a,111a エントロピー復号器
71b,81e,91b,101e,111b,121e 逆量子化・逆変換部
71c,81b,91c,101b,111c,121b 動き補償部
71d,72,81f,91d,92,101f,111d,112,121f 加算器
81a,101a,121a 動きベクトル検出部
81c,85,101c,104,121c,125 減算器
81d,101d,121d 変換・量子化部
81h,101h,121h エントロピー符号化部
86,105,126 選択情報生成部
1, 4, 8 Original image 2, 3, 7 Predicted image 5, 9 Difference image 6, 10 Decoded image 15 Motion compensated image 16 Output image 11, 31, 51, 61, 91, 111 Decoder 12, 23, 32, 43 , 52, 63, 73, 84, 93, 103, 113, 124 High-precision motion compensation unit 13, 24, 33, 44, 53, 64, 74, 94, 114 Selection unit 14, 25, 54, 65, 71e, 75, 81g, 82, 91e, 101g, 111e, 115, 121g, 122 Frame memory 21, 41, 61, 81, 101, 121 Encoder 22, 42, 62, 83, 102, 123 High-precision motion vector detection unit 71a, 91a, 111a Entropy decoders 71b, 81e, 91b, 101e, 111b, 121e Inverse quantization / inverse transform units 71c, 81b, 91 c, 101b, 111c, 121b Motion compensation unit 71d, 72, 81f, 91d, 92, 101f, 111d, 112, 121f Adder 81a, 101a, 121a Motion vector detection unit 81c, 85, 101c, 104, 121c, 125 Subtraction 81d, 101d, 121d Transformer / quantizer 81h, 101h, 121h Entropy encoder 86, 105, 126 Selection information generator

Claims (8)

所定の規格で符号化された、第1の動きベクトルを含むストリームが入力されるとともに、復号画像を生成する復号手段と、
前記第1の動きベクトルより高い精度の第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記復号画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記出力画像を蓄積し、蓄積した出力画像を前記補償手段に出力する蓄積手段とを具えることを特徴とする動き補償装置。
A decoding unit that receives the stream including the first motion vector, encoded according to a predetermined standard, and generates a decoded image;
A second motion vector having a higher accuracy than the first motion vector is input, and compensation means for motion-compensating an image using the second motion vector to generate a motion-compensated image;
Generating means for generating an output image based on the decoded image and the motion compensated image;
A motion compensation apparatus comprising: accumulation means for accumulating the output image and outputting the accumulated output image to the compensation means.
所定の規格で符号化された、第1の動きベクトルを含むストリームが入力されるとともに、復号画像を生成する復号手段と、
前記第1の動きベクトルより高い精度の第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記復号画像及び前記動き補償画像に基づいて出力画像を生成する生成手段とを具え、
前記復号手段が、
前記出力画像を蓄積し、蓄積した出力画像を前記補償手段に出力する蓄積手段を有することを特徴とする動き補償装置。
A decoding unit that receives the stream including the first motion vector, encoded according to a predetermined standard, and generates a decoded image;
A second motion vector having a higher accuracy than the first motion vector is input, and compensation means for motion-compensating an image using the second motion vector to generate a motion-compensated image;
Generating means for generating an output image based on the decoded image and the motion compensated image,
The decoding means comprises:
A motion compensation apparatus comprising: an accumulation unit that accumulates the output image and outputs the accumulated output image to the compensation unit.
所定の規格で符号化された、第1の動きベクトルを含むストリームが入力されるとともに、復号画像を生成する復号手段と、
前記第1の動きベクトルより高い精度の第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記復号画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記復号画像及び前記出力画像を蓄積し、蓄積した復号画像と出力画像のうちの一方を前記補償手段に出力する蓄積手段とを具えることを特徴とする動き補償装置。
A decoding unit that receives the stream including the first motion vector, encoded according to a predetermined standard, and generates a decoded image;
A second motion vector having a higher accuracy than the first motion vector is input, and compensation means for motion-compensating an image using the second motion vector to generate a motion-compensated image;
Generating means for generating an output image based on the decoded image and the motion compensated image;
A motion compensation apparatus comprising: an accumulation unit that accumulates the decoded image and the output image, and outputs one of the accumulated decoded image and the output image to the compensation unit.
前記第1の動きベクトル及び前記第1の動きベクトルと前記第2の動きベクトルとの差分ベクトルが入力されるとともに、前記第1の動きベクトルと前記差分ベクトルとを加算して前記第2の動きベクトルを生成し、前記第2の動きベクトルを前記補償手段に出力する加算手段を更に具えることを特徴とする請求項1から3のうちのいずれか1項に記載の動き補償装置。   The first motion vector and a difference vector between the first motion vector and the second motion vector are input, and the second motion is obtained by adding the first motion vector and the difference vector. 4. The motion compensation apparatus according to claim 1, further comprising addition means for generating a vector and outputting the second motion vector to the compensation means. 5. 入力画像を、所定の規格で符号化された、第1の動きベクトルを含むストリームに符号化し、前記ストリームをデコーダに出力する符号化手段と、
既に出力された画像と前記入力画像との間で、前記第1の動きベクトルより高い精度の第2の動きベクトルを検出する検出手段と、
前記第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記ストリームをデコードして得られる画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記出力画像を蓄積し、蓄積した出力画像を前記検出手段及び前記補償手段に出力する蓄積手段とを具えることを特徴とする動き補償装置。
Encoding means for encoding an input image into a stream including a first motion vector encoded according to a predetermined standard, and outputting the stream to a decoder;
Detecting means for detecting a second motion vector with higher accuracy than the first motion vector between the already output image and the input image;
Compensation means for generating a motion compensated image by motion-compensating an image using the second motion vector while the second motion vector is input;
Generating means for generating an output image based on the image obtained by decoding the stream and the motion compensated image;
A motion compensation apparatus comprising: an accumulation means for accumulating the output image and outputting the accumulated output image to the detection means and the compensation means.
入力画像を、所定の規格で符号化された、第1の動きベクトルを含むストリームに符号化し、前記ストリームをデコーダに出力する符号化手段と、
既に出力された画像と前記入力画像との間で、前記第1の動きベクトルより高い精度の第2の動きベクトルを検出する検出手段と、
前記第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記ストリームをデコードして得られる画像及び前記動き補償画像に基づいて出力画像を生成する生成手段とを具え、
前記符号化手段が、
前記出力画像を蓄積し、蓄積した出力画像を前記動きベクトル検出手段及び前記補償手段に出力する蓄積手段を有することを特徴とする動き補償装置。
Encoding means for encoding an input image into a stream including a first motion vector encoded according to a predetermined standard, and outputting the stream to a decoder;
Detecting means for detecting a second motion vector with higher accuracy than the first motion vector between the already output image and the input image;
Compensation means for generating a motion compensated image by motion-compensating an image using the second motion vector while the second motion vector is input;
Generating means for generating an output image based on the image obtained by decoding the stream and the motion compensated image,
The encoding means is
A motion compensation apparatus, comprising: an accumulation unit that accumulates the output image and outputs the accumulated output image to the motion vector detection unit and the compensation unit.
入力画像を、所定の規格で符号化された、第1の動きベクトルを含むストリームに符号化し、前記ストリームを、デコーダに出力する符号化手段と、
既に出力された画像と前記入力画像との間で、前記第1の動きベクトルより高い精度の第2の動きベクトルを検出する検出手段と、
前記第2の動きベクトルが入力されるとともに、前記第2の動きベクトルを用いて画像を動き補償し、動き補償画像を生成する補償手段と、
前記ストリームをデコードして得られる画像及び前記動き補償画像に基づいて出力画像を生成する生成手段と、
前記ストリームをデコードして得られる画像及び前記出力画像を蓄積し、蓄積した復号画像と出力画像のうちの一方を前記検出手段及び前記補償手段に出力する蓄積手段とを具えることを特徴とする動き補償装置。
Encoding means for encoding an input image into a stream encoded with a predetermined standard and including a first motion vector, and outputting the stream to a decoder;
Detecting means for detecting a second motion vector with higher accuracy than the first motion vector between the already output image and the input image;
Compensation means for generating a motion compensated image by motion-compensating an image using the second motion vector while the second motion vector is input;
Generating means for generating an output image based on the image obtained by decoding the stream and the motion compensated image;
And storing an image obtained by decoding the stream and the output image, and storing means for outputting one of the stored decoded image and output image to the detection unit and the compensation unit. Motion compensation device.
前記第1の動きベクトル及び前記第2の動きベクトルが入力されるとともに、前記第1の動きベクトルから前記第2の動きベクトルを減算して、前記第1の動きベクトルと前記第2の動きベクトルとの差分ベクトルを生成する減算手段を更に具えることを特徴とする請求項5から7のうちのいずれか1項に記載の動き補償装置。   The first motion vector and the second motion vector are input, and the first motion vector and the second motion vector are subtracted from the first motion vector by subtracting the second motion vector. The motion compensation apparatus according to claim 5, further comprising subtracting means for generating a difference vector between
JP2007056150A 2007-03-06 2007-03-06 Encoding side motion compensation device and decoding side motion compensation device Expired - Fee Related JP4781301B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007056150A JP4781301B2 (en) 2007-03-06 2007-03-06 Encoding side motion compensation device and decoding side motion compensation device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007056150A JP4781301B2 (en) 2007-03-06 2007-03-06 Encoding side motion compensation device and decoding side motion compensation device

Publications (2)

Publication Number Publication Date
JP2008219628A true JP2008219628A (en) 2008-09-18
JP4781301B2 JP4781301B2 (en) 2011-09-28

Family

ID=39839109

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007056150A Expired - Fee Related JP4781301B2 (en) 2007-03-06 2007-03-06 Encoding side motion compensation device and decoding side motion compensation device

Country Status (1)

Country Link
JP (1) JP4781301B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0662386A (en) * 1992-08-04 1994-03-04 G C Technol Kk Resolution converting and decoding method and device
JPH09266574A (en) * 1996-01-22 1997-10-07 Matsushita Electric Ind Co Ltd Image encoding device and image decoding device
JP2003348596A (en) * 2002-05-28 2003-12-05 Sony Corp Image processor and image processing method, recording medium, and program
JP2004349812A (en) * 2003-05-20 2004-12-09 Sony Corp Image decoding apparatus and image decoding method
JP2005064655A (en) * 2003-08-08 2005-03-10 Matsushita Electric Ind Co Ltd Method and device for detecting motion vector
JP2007036889A (en) * 2005-07-28 2007-02-08 Sanyo Electric Co Ltd Coding method

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0662386A (en) * 1992-08-04 1994-03-04 G C Technol Kk Resolution converting and decoding method and device
JPH09266574A (en) * 1996-01-22 1997-10-07 Matsushita Electric Ind Co Ltd Image encoding device and image decoding device
JP2003348596A (en) * 2002-05-28 2003-12-05 Sony Corp Image processor and image processing method, recording medium, and program
JP2004349812A (en) * 2003-05-20 2004-12-09 Sony Corp Image decoding apparatus and image decoding method
JP2005064655A (en) * 2003-08-08 2005-03-10 Matsushita Electric Ind Co Ltd Method and device for detecting motion vector
JP2007036889A (en) * 2005-07-28 2007-02-08 Sanyo Electric Co Ltd Coding method

Also Published As

Publication number Publication date
JP4781301B2 (en) 2011-09-28

Similar Documents

Publication Publication Date Title
US7359558B2 (en) Spatial scalable compression
US8244048B2 (en) Method and apparatus for image encoding and image decoding
JP4528694B2 (en) Video encoding device
US8194748B2 (en) Apparatus for scalable encoding/decoding of moving image and method thereof
US6912253B1 (en) Method and apparatus for transcoding coded video image data
JP2006279573A (en) Encoder and encoding method, and decoder and decoding method
JP2005507589A5 (en)
KR20120028843A (en) Method and apparatus of layered encoding/decoding a picture
JP2009267689A (en) Moving image coding device, and moving image coding method
US20050265444A1 (en) Moving image encoding/decoding apparatus and method
JP4284265B2 (en) Moving picture coding apparatus, moving picture coding method, moving picture decoding apparatus, and moving picture decoding method
US8194740B2 (en) Apparatus and method for compression-encoding moving picture
JP2005318297A (en) Method and device for encoding/decoding dynamic image
US8228991B2 (en) System and method for adaptive video compression motion compensation
JP4686280B2 (en) Video encoding device
JP2003289544A (en) Equipment and method for coding image information, equipment and method for decoding image information, and program
JP2006511164A (en) Elastic memory
US20130083858A1 (en) Video image delivery system, video image transmission device, video image delivery method, and video image delivery program
JP2003224855A (en) Method of decoding coded video signal
JP4781301B2 (en) Encoding side motion compensation device and decoding side motion compensation device
JP2005303710A (en) Dynamic image coding method, image processing apparatus, and image processing program
JP2005236584A (en) Moving picture information conversion encoding apparatus
JP5401909B2 (en) Transcoding device and transcoding method
JP4347687B2 (en) Method and device for generating a scalable coded video signal from a non-scalable coded video signal
EP1790166A2 (en) A method and apparatus for motion estimation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101019

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110614

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110705

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140715

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4781301

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees