JP3948442B2 - Motion compensation decoding apparatus - Google Patents

Motion compensation decoding apparatus Download PDF

Info

Publication number
JP3948442B2
JP3948442B2 JP2003273897A JP2003273897A JP3948442B2 JP 3948442 B2 JP3948442 B2 JP 3948442B2 JP 2003273897 A JP2003273897 A JP 2003273897A JP 2003273897 A JP2003273897 A JP 2003273897A JP 3948442 B2 JP3948442 B2 JP 3948442B2
Authority
JP
Japan
Prior art keywords
motion vector
code
motion
code table
motion compensation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003273897A
Other languages
Japanese (ja)
Other versions
JP2004007775A (en
Inventor
賢二 杉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2003273897A priority Critical patent/JP3948442B2/en
Publication of JP2004007775A publication Critical patent/JP2004007775A/en
Application granted granted Critical
Publication of JP3948442B2 publication Critical patent/JP3948442B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

本発明は、画像を効率的に伝送、蓄積、表示するために、画像情報をより少ない符号量でディジタル信号にする高能率符号化が行われた符号列を復号化するものにおいて、特に動き補償処理が行われ、その際の動きベクトル情報が可変符号化されている符号列を動き補償復号化するものに関する。   The present invention decodes a code sequence that has been subjected to high-efficiency coding that converts image information into a digital signal with a smaller code amount in order to efficiently transmit, store, and display the image. The present invention relates to a method for performing motion compensation decoding on a code string on which motion vector information is variably encoded.

<動き補償動画像符号化>
動画像符号化はMPEGなどに代表されるように、動き補償画像間予測が行われるのが一般的である。その際、動き補償で使われた動きベクトル(MV)の情報は可変長符号化され、予測残差の符号と多重化されて伝送される。
<Motion compensated video coding>
In motion picture encoding, motion compensated inter-picture prediction is generally performed as represented by MPEG and the like. At this time, the motion vector (MV) information used in the motion compensation is variable-length coded, multiplexed with the prediction residual code, and transmitted.

MVの符号化は、隣接ブロックのMVとの差分を取り、水平差分値と垂直差分値とをそれぞれ可変長符号で符号化する。この可変長符号は差分値の発生頻度に合わせてハフマン符号などで構成される。   In the MV encoding, the difference from the MV of the adjacent block is taken, and the horizontal difference value and the vertical difference value are each encoded with a variable length code. This variable length code is composed of a Huffman code or the like in accordance with the frequency of occurrence of the difference value.

<従来例の動き補償符号化装置>
従来の動き補償符号化装置の構成例を図6と共に、以下に説明する。
<Conventional Motion Compensation Encoding Device>
A configuration example of a conventional motion compensation encoding apparatus will be described below with reference to FIG.

画像入力端子1より入来する動画像信号は、減算器2において動き補償予測器10から与えられる予測信号が減算され、予測残差となってDCT3に与えられる。DCT3は予測残差に対してDCT(Discrete Cosine Transform )の変換処理を行い、得られた係数を量子化器4に与える。量子化器4は所定のステップ幅で係数を量子化し、固定長の符号となった係数を可変長符号化器5と逆量子化器7に与える。可変長符号化器5は、固定長の予測残差を可変長符号で圧縮し、できた符号は多重化器61に与えられる。   The motion picture signal coming from the picture input terminal 1 is subtracted from the prediction signal given from the motion compensation predictor 10 in the subtracter 2 and given to the DCT 3 as a prediction residual. The DCT 3 performs DCT (Discrete Cosine Transform) conversion processing on the prediction residual and gives the obtained coefficient to the quantizer 4. The quantizer 4 quantizes the coefficient with a predetermined step width, and supplies the coefficient that has become a fixed-length code to the variable-length encoder 5 and the inverse quantizer 7. The variable length encoder 5 compresses the fixed-length prediction residual with the variable length code, and the resulting code is supplied to the multiplexer 61.

一方、逆量子化器7及び逆DCT13では量子化器4及びDCT3の逆処理が行われ、予測残差を再生する。得られた再生予測残差は加算器12で予測信号が加算され再生画像となり、画像メモリ11に与えられる。画像メモリ11に蓄えられている再生画像は、動き補償予測器10に与えられる。   On the other hand, the inverse quantizer 7 and the inverse DCT 13 perform the inverse processing of the quantizer 4 and the DCT 3 to reproduce the prediction residual. The obtained reproduction prediction residual is added with a prediction signal by an adder 12 to form a reproduction image, which is given to the image memory 11. The reproduced image stored in the image memory 11 is given to the motion compensation predictor 10.

動き補償予測器10は、MV検出器6から与えられるMVに従って動き補償を行い、得られた予測信号を減算器2と加算器12に与える。MV検出器6は、被符号化フレームに対する参照フレームの空間移動量を16×16画素または8×8画素ブロック毎に求めて、MVとして動き補償予測器10及びMV符号化器62に与える。MV符号化器62は、ひとつ前のMVとの差分を取り、差分値を所定可変長符号で符号化する。MVの符号は、多重化器61で予測残差の符号と多重化され符号出力端子9より出力される。   The motion compensation predictor 10 performs motion compensation in accordance with the MV supplied from the MV detector 6 and supplies the obtained prediction signal to the subtracter 2 and the adder 12. The MV detector 6 obtains the spatial movement amount of the reference frame with respect to the encoded frame for each 16 × 16 pixel or 8 × 8 pixel block, and provides it to the motion compensation predictor 10 and the MV encoder 62 as MV. The MV encoder 62 takes the difference from the previous MV and encodes the difference value with a predetermined variable length code. The MV code is multiplexed with the prediction residual code by the multiplexer 61 and output from the code output terminal 9.

<従来例の動き補償復号化装置>
図7は、図6の動き補償符号化装置に対応する動き補償復号化装置の従来例の構成を示したものである。
<Conventional Motion Compensation Decoding Device>
FIG. 7 shows a configuration of a conventional example of a motion compensation decoding apparatus corresponding to the motion compensation encoding apparatus of FIG.

符号入力端子21より入来する動き補償予測符号化された符号列は、多重化分離器71で予測残差の符号とMVの符号が分離され、予測残差の符号は可変長復号化器23へ、MVの符号はMV復号化器72へ与えられる。可変長復号化器23は可変長符号を固定長の符号に戻し、逆量子化器7に与えられる。   A code sequence of motion-compensated predictive coding that comes from the code input terminal 21 is separated into a prediction residual code and an MV code by a demultiplexer 71, and the prediction residual code is converted into a variable-length decoder 23. The MV code is provided to the MV decoder 72. The variable length decoder 23 converts the variable length code back to a fixed length code and provides it to the inverse quantizer 7.

固定長符号は逆量子化器7で予測残差の再生DCT係数値となり、逆DCT13に与えられる。逆DCT13は8×8個の係数を再生予測残差信号に変換し、加算器12に与える。加算器12では再生予測残差信号に予測信号が加算され、再生画像となる。この様にして得られた再生画像信号は、画像出力端子24から出力されると共に画像メモリ11に与えられる。動き補償予測器10は、画像メモリ11に蓄積されている画像をMVに基づいて動き補償し、予測信号を形成する。得られた予測信号は加算器12に与えられる。一方、MV復号化器72は図6のMV符号化器62の逆処理を行い、MV符号からMV値を得る。得られたMVは動き補償予測器10に与えられる。   The fixed-length code becomes a reproduction DCT coefficient value of the prediction residual by the inverse quantizer 7 and is given to the inverse DCT 13. The inverse DCT 13 converts 8 × 8 coefficients into a reproduction prediction residual signal and supplies it to the adder 12. The adder 12 adds the prediction signal to the reproduction prediction residual signal to form a reproduction image. The reproduced image signal obtained in this way is output from the image output terminal 24 and given to the image memory 11. The motion compensation predictor 10 performs motion compensation on the image stored in the image memory 11 based on the MV, and forms a prediction signal. The obtained prediction signal is given to the adder 12. On the other hand, the MV decoder 72 performs reverse processing of the MV encoder 62 of FIG. 6 to obtain an MV value from the MV code. The obtained MV is given to the motion compensation predictor 10.

従来の動き補償符号化装置は、動きベクトル(MV)の可変長符号化のために1種類の符号表を用いていた。そこで使われる符号表は、MV差分の分布(各差分値の発生確率)に合わせて作成されているが、MV差分は画像の動きの状況により大きく異なり、画像の部分により分布が符号表と適合しない場合も多く、発生符号量が多くなっていた。特に、動き補償のブロックを細かくし、精度を上げるとMV情報量の割合が増加するので、総符号量に与える影響は顕著となる。   A conventional motion compensation coding apparatus uses one type of code table for variable length coding of a motion vector (MV). The code table used there is created according to the MV difference distribution (probability of occurrence of each difference value), but the MV difference varies greatly depending on the situation of the image movement, and the distribution matches the code table depending on the image part. In many cases, the generated code amount is large. In particular, if the motion compensation block is made finer and the accuracy is increased, the ratio of the MV information amount increases, so the influence on the total code amount becomes significant.

本発明は以上の点に着目してなされたもので、MV符号化用の可変長符号表を複数種類有し、MVを所定数で統合し、一画像(ひとつのフレーム乃至フィールド)を複数に分割したMV群単位で選択された符号表を用いてMV符号化を行い、その符号表選択情報を伝送して復号でも共通の符号表を使用することでMV符号量の削減可能な動き補償符号化に対応する動き補償復号化装置を提供することを目的とする。 The present invention has been made paying attention to the above points, and has a plurality of types of variable-length code tables for MV encoding, integrates a predetermined number of MVs, and makes one image (one frame or field) a plurality. A motion compensation code capable of reducing the MV code amount by performing MV coding using a code table selected in units of divided MV groups, transmitting the code table selection information, and using a common code table for decoding It is an object of the present invention to provide a motion compensation decoding apparatus corresponding to the conversion.

そこで、上記課題を解決するために本発明は、下記の装置を提供するものである。 In order to solve the above problems, the present invention provides the following apparatus .

(1) 動画像が動き補償ブロック毎の動きベクトルにより動き補償予測符号化された動画像符号列を復号化する動き補償復号化装置において、
入来する動画像符号列は、前記動き補償ブロックを16個〜64個程度の範囲内で統合した統合単位で一画像を複数の領域に分割されるように区切ったその各統合単位において前記動きベクトルを統合して得た動きベクトル群毎に、複数の可変長符号化表から前記動きベクトルを符号化するために選択された可変長符号表を示す符号表選択情報と、前記選択された可変長符号表を用いて前記動きベクトルが可変長符号化された動きベクトルの情報とが多重化されているものであり、
前記動きベクトルを符号化するための可変長符号表は、前記複数の可変長符号表により前記動きベクトルを符号化した際の符号量に関する値を前記動きベクトル群毎に比較した比較結果に応じて、前記複数の可変長符号表から前記動きベクトル群毎に選択されたものであり、
前記入来する動画像符号列から、前記動きベクトルの情報と前記符号表選択情報とを分離して得る多重化分離手段と、
前記符号表選択情報に従って選択された可変長符号表を用いて、前記動きベクトルの情報を可変長復号化する動きベクトル復号化手段と、
前記復号化された動きベクトルを用いて、前記入来する動画像符号列を動き補償予測復号化して前記動画像を得る復号化手段と、
を有することを特徴とする動き補償復号化装置。
(2) 動画像が動き補償ブロック毎の動きベクトルにより動き補償予測符号化された動画像符号列を復号化する動き補償復号化装置において、
入来する動画像符号列は、前記動き補償ブロックを16個〜64個程度の範囲内で統合した統合単位で一画像を複数の領域に分割されるように区切ったその各統合単位において前記動きベクトルを統合して得た動きベクトル群毎に、複数の可変長符号化表から前記動きベクトルを符号化するために選択された可変長符号表を示す符号表選択情報と、前記選択された可変長符号表を用いて前記動きベクトルが可変長符号化された動きベクトルの情報とが多重化されているものであり、
前記動きベクトルを符号化するための可変長符号表は、前記複数の可変長符号表から予め選択されている1つの可変長符号表により前記動きベクトルを符号化した際の符号量に関する値を前記動きベクトル群毎に求め、前記動きベクトル群毎の符号量に関する値と予め設定されている閾値との関係に応じて、前記複数の可変長符号表から前記動きベクトル群毎に選択されたものであり、
前記入来する動画像符号列から、前記動きベクトルの情報と前記符号表選択情報とを分離して得る多重化分離手段と、
前記符号表選択情報に従って選択された可変長符号表を用いて、前記動きベクトルの情報を可変長復号化する動きベクトル復号化手段と、
前記復号化された動きベクトルを保持するバッファ手段と、
前記各動き補償ブロックに応じた前記復号化された動きベクトルが前記バッファ手段から供給されて、前記入来する動画像符号列を動き補償予測復号化して前記動画像を得る復号化手段と、
を有することを特徴とする動き補償復号化装置。
(1) In a motion compensation decoding apparatus that decodes a motion picture code sequence in which a motion picture is motion compensation prediction-encoded with a motion vector for each motion compensation block,
An incoming moving image code string includes the motion in each integrated unit obtained by dividing one image into a plurality of regions by integrating units in which the motion compensation blocks are integrated within a range of about 16 to 64. Code table selection information indicating a variable length code table selected for encoding the motion vector from a plurality of variable length coding tables for each motion vector group obtained by integrating vectors, and the selected variable The motion vector information obtained by variable-length coding the motion vector using a long code table is multiplexed,
The variable length code table for encoding the motion vector is in accordance with a comparison result in which a value related to a code amount when the motion vector is encoded by the plurality of variable length code tables is compared for each motion vector group. , Selected for each of the motion vector groups from the plurality of variable length code tables,
Demultiplexing means for separating the motion vector information and the code table selection information from the incoming video code sequence,
Motion vector decoding means for variable-length decoding the motion vector information using a variable length code table selected according to the code table selection information;
Decoding means for obtaining the moving picture by performing motion compensation predictive decoding on the incoming moving picture code string using the decoded motion vector;
A motion compensation decoding apparatus comprising:
(2) In a motion compensation decoding apparatus that decodes a motion picture code sequence in which a motion picture is motion compensation prediction-encoded with a motion vector for each motion compensation block,
An incoming moving image code string includes the motion in each integrated unit obtained by dividing one image into a plurality of regions by integrating units in which the motion compensation blocks are integrated within a range of about 16 to 64. Code table selection information indicating a variable length code table selected for encoding the motion vector from a plurality of variable length coding tables for each motion vector group obtained by integrating vectors, and the selected variable The motion vector information obtained by variable-length coding the motion vector using a long code table is multiplexed,
The variable length code table for encoding the motion vector has a value related to a code amount when the motion vector is encoded by one variable length code table preselected from the plurality of variable length code tables. Obtained for each motion vector group, and selected for each motion vector group from the plurality of variable length code tables according to the relationship between the value related to the code amount for each motion vector group and a preset threshold value. Yes,
Demultiplexing means for separating the motion vector information and the code table selection information from the incoming video code sequence,
Motion vector decoding means for variable-length decoding the motion vector information using a variable length code table selected according to the code table selection information;
Buffer means for holding the decoded motion vector;
Decoding means for obtaining the moving picture by receiving the decoded motion vector corresponding to each motion compensation block from the buffer means and performing motion compensation predictive decoding on the incoming moving picture code string;
A motion compensation decoding apparatus comprising:

(作 用)
本発明は、以下の動き補償符号化により符号化された符号列を的確に動き補償復号化するものである。動き補償動画像符号化で、動きベクトル(MV)符号化用の可変長符号表を複数種類有し、MVを所定数で統合し、一画像(ひとつのフレーム乃至フィールド)が複数に分割されたMV群単位で選択された符号表を用いてMV符号化を行い、その符号表選択情報を伝送して復号でも共通の符号表を使用することで、複数の符号表の中から適当な符号表が使用される。符号表は、異なったMV差分発生分布に合わせて複数種類用意されるので、MV差分のMV群内分布が平均的分布と大きく異なっても、そのMV群に適した符号表が選択される。選択された符号表は、そのMV群のMV差分の分布に適合した可変長符号で構成されて、MV群の符号量は平均的符号表の場合より少なくなる。
(Work)
The present invention accurately performs motion compensation decoding on a code string encoded by the following motion compensation encoding. In motion compensated video coding, there are multiple types of variable length code tables for motion vector (MV) coding, MVs are integrated in a predetermined number, and one image (one frame or field) is divided into multiple By performing MV coding using a code table selected in units of MV groups, transmitting the code table selection information, and using a common code table for decoding, an appropriate code table can be selected from a plurality of code tables. Is used. Since a plurality of types of code tables are prepared according to different MV difference occurrence distributions, a code table suitable for the MV group is selected even if the distribution in the MV group of the MV difference is significantly different from the average distribution. The selected code table is composed of variable length codes adapted to the MV difference distribution of the MV group, and the code amount of the MV group is smaller than that of the average code table.

それぞれのMV群で、それに適合した符号表が選択され、MV符号量が全体に削減される。一方、符号表選択情報が付随するのでその分が符号量増加となるが、MV群で1乃至2bitなので、削減効果と比較して極く僅かな増加で済む。   In each MV group, a code table suitable for the MV group is selected, and the MV code amount is reduced as a whole. On the other hand, since the code table selection information accompanies, the amount of code increases accordingly, but since it is 1 to 2 bits in the MV group, only a slight increase is required compared with the reduction effect.

本発明では、以下の動き補償符号化により符号化された符号列を的確に動き補償復号化することができる。   In the present invention, it is possible to accurately perform motion compensation decoding on a code string encoded by the following motion compensation encoding.

動き補償動画像符号化で、動きベクトル(MV)符号化用の可変長符号表を複数種類有し、MVを所定数で統合し、一画像(ひとつのフレーム乃至フィールド)を複数に分割したMV群単位で選択された符号表を用いてMV符号化を行い、その符号表選択情報を伝送して復号でも共通の符号表を使うことで、複数の符号表の中から適切な符号表が使われ、その符号表は、異なったMV差分発生分布に合わせて複数種類用意され、そのMV群のMV差分の分布に適合した、画像の部分状態に適合したものが選択されるので、MV符号量が少なくなる。   In motion compensated video coding, there is a plurality of variable length code tables for motion vector (MV) coding, a predetermined number of MVs are integrated, and one image (one frame or field) is divided into a plurality of MVs. MV coding is performed using a code table selected in units of groups, and the code table selection information is transmitted and a common code table is used for decoding, so that an appropriate code table can be used from among a plurality of code tables. A plurality of types of code tables are prepared in accordance with different MV difference occurrence distributions, and those that match the MV difference distribution of the MV group and that match the partial state of the image are selected. Less.

予測残差の符号量は変化しないので、全体の発生符号量が少なくなる。特に、動き補償のブロックを細かくし、精度を上げるとMV符号量の割合が相対的に多くなっているので、MV符号量の削減効果はそのまま総符号量の削減にも大きく寄与する。   Since the code amount of the prediction residual does not change, the total generated code amount is reduced. In particular, if the motion compensation block is made finer and the accuracy is increased, the ratio of the MV code amount is relatively increased, so the effect of reducing the MV code amount greatly contributes to the reduction of the total code amount as it is.

<本発明に対応する動き補償符号化装置の第1の例>
本発明の動き補償復号化装置に対応する(本発明の動き補償復号化装置において的確に復号化される符号列を生成する)動き補償符号化装置の第1の例について、以下に説明する。
<First Example of Motion Compensation Encoding Device Corresponding to the Present Invention>
A first example of a motion compensation coding apparatus corresponding to the motion compensation decoding apparatus of the present invention (generating a code string accurately decoded in the motion compensation decoding apparatus of the present invention) will be described below.

図1は、その構成を示したもので、図6の従来例と同一構成要素には同一番号を付してある。図1には、図6と比較してMV統合器15、仮MV符号化器16、符号量算出器17、符号表判定器18、遅延器19が追加されている。また、MV符号化器14、多重化器8の動作が、図6のMV符号化器62、多重化器61と異なる。   FIG. 1 shows the configuration, and the same components as those in the conventional example of FIG. 6 are denoted by the same reference numerals. Compared with FIG. 6, an MV integrator 15, a provisional MV encoder 16, a code amount calculator 17, a code table determiner 18, and a delay unit 19 are added to FIG. 1. The operations of the MV encoder 14 and the multiplexer 8 are different from those of the MV encoder 62 and the multiplexer 61 in FIG.

本例において、従来例と大きく異なるのは、動きベクトル(MV)の符号化方法である。画像間予測処理及び予測残差の符号化は基本的に同じである。   In this example, the motion vector (MV) encoding method is greatly different from the conventional example. The inter-picture prediction process and the encoding of the prediction residual are basically the same.

画像入力端子1より入来する動画像信号は、減算器2において動き補償予測器10から与えられる予測信号が減算され、予測残差となってDCT3に与えられる。DCT3は、予測残差にDCT(Discrete Cosine Transform )の変換処理を行い、得られた係数を量子化器4に与える。量子化器4は所定のステップ幅で係数を量子化し、固定長の符号となった係数を可変長符号化器5と逆量子化器7に与える。可変長符号化器5は、固定長の予測残差を可変長符号で圧縮し、圧縮して出来た符号列は多重化器8に与えられる。   The motion picture signal coming from the picture input terminal 1 is subtracted from the prediction signal given from the motion compensation predictor 10 in the subtracter 2 and given to the DCT 3 as a prediction residual. The DCT 3 performs DCT (Discrete Cosine Transform) conversion processing on the prediction residual, and gives the obtained coefficient to the quantizer 4. The quantizer 4 quantizes the coefficient with a predetermined step width, and supplies the coefficient that has become a fixed-length code to the variable-length encoder 5 and the inverse quantizer 7. The variable-length encoder 5 compresses the fixed-length prediction residual with the variable-length code, and the code string generated by the compression is supplied to the multiplexer 8.

一方、逆量子化器7及び逆DCT13ではDCT3及び量子化器4の逆処理が行われ、予測残差を再生する。得られた再生予測残差は加算器12で予測信号が加算され再生画像となり、画像メモリ11に与えられる。   On the other hand, the inverse quantizer 7 and the inverse DCT 13 perform the inverse processing of the DCT 3 and the quantizer 4 to reproduce the prediction residual. The obtained reproduction prediction residual is added with a prediction signal by an adder 12 to form a reproduction image, which is given to the image memory 11.

画像メモリ11に蓄えられている再生画像は、動き補償予測器10に与えられる。動き補償予測器10は、MV検出器6から与えられるMVに従って予測信号を作り、減算器2と加算器12に与える。   The reproduced image stored in the image memory 11 is given to the motion compensation predictor 10. The motion compensation predictor 10 creates a prediction signal according to the MV supplied from the MV detector 6 and supplies the prediction signal to the subtracter 2 and the adder 12.

MV検出器6は、被符号化フレームに対する参照フレームの空間移動量を16×16画素または8×8画素ブロック毎に求めて、MVとして動き補償予測器10及びMV統合器15に与える。   The MV detector 6 obtains the spatial movement amount of the reference frame with respect to the encoded frame for each 16 × 16 pixel or 8 × 8 pixel block, and provides it to the motion compensation predictor 10 and the MV integrator 15 as MV.

<MV符号化>
本発明の特徴に貢献しているMVの符号化部分の一実施例について、以下に説明する。
<MV encoding>
One embodiment of the MV coding part that contributes to the features of the present invention is described below.

図1に示したMV統合器15では、16個〜64個程度のMVを統合し、一フレームが複数に分割されたMV群とする。MV群は、図4に示した縦4個×横4個など2次元的なものが符号化特性からは望ましいが、横一列に16個などの1次元的なものでも良い。2次元の場合には、MV値に対するメモリを有して、配列変換を行う。   In the MV integrator 15 shown in FIG. 1, about 16 to 64 MVs are integrated to form an MV group in which one frame is divided into a plurality. The MV group is preferably two-dimensional, such as 4 vertical × 4 horizontal, as shown in FIG. 4, from the viewpoint of encoding characteristics, but may be one-dimensional such as 16 in a horizontal row. In the case of the two-dimensional case, it has a memory for MV values and performs array conversion.

MV統合器15よりのMV群の各MVは、仮MV符号化器16と遅延器19とに与えられる。仮MV符号化器16では、MV符号化器14が有しているすべての種類の符号表について仮符号化を行い、得られた符号表毎の符号列を次の符号量算出器17に与える。   Each MV of the MV group from the MV integrator 15 is given to the temporary MV encoder 16 and the delay unit 19. The provisional MV encoder 16 performs provisional encoding on all types of code tables included in the MV encoder 14, and provides the obtained code string to the next code amount calculator 17. .

ここで、符号表の具体的な実施例を表1、表2に夫々示す。   Here, specific examples of the code table are shown in Table 1 and Table 2, respectively.

表1の第1可変長符号表は、比較的MVの変化が少ない場合に適合し、表2の第2可変長符号表は、比較的MVの変化が大きい場合に適合するものである。   The first variable length code table in Table 1 is suitable when the change in MV is relatively small, and the second variable length code table in Table 2 is suitable when the change in MV is relatively large.

変化が大きい場合と少ない場合のMVの例を図5に示す。表でsはMVの極性(+/−)を示す符号である。表の可変長符号は、MV差分の水平・垂直のそれぞれ成分毎に適用される。また、MVが1/2画素精度の場合は、2倍して整数化した値に適用する。   An example of MV when the change is large and small is shown in FIG. In the table, s is a symbol indicating the polarity (+/−) of MV. The variable length code in the table is applied to each horizontal and vertical component of the MV difference. In addition, when MV has ½ pixel accuracy, it is applied to a value that is doubled to be an integer.

Figure 0003948442
Figure 0003948442

Figure 0003948442
符号量算出器17は、それぞれの符号表の符号列毎に符号量が計数され、MV群単位で符号量を符号表判定器18に与える。なお、ここで最終的に必要なのは符号量だけであるので、必ずしも正式な符号列を得る必要はなく、仮MV符号化器16は各MV差分の符号長を出力し、符号量算出器17でそれをMV群単位に積算しても良い。
Figure 0003948442
The code amount calculator 17 counts the code amount for each code string of each code table, and provides the code amount to the code table determiner 18 in units of MV groups. Since only the code amount is finally required here, it is not always necessary to obtain a formal code string. The provisional MV encoder 16 outputs the code length of each MV difference, and the code amount calculator 17 It may be integrated in MV group units.

符号表判定器18は、各符号表の符号量を比較して、例えば表1又は表2のいずれかから、最も符号量の少ない符号表を判定して選択する。その判定結果は符号表選択情報として、MV符号化器14と多重化器8とに与えられる。   The code table determination unit 18 compares the code amounts of the code tables, and determines and selects the code table with the smallest code amount from either Table 1 or Table 2, for example. The determination result is given to the MV encoder 14 and the multiplexer 8 as code table selection information.

一方、MV群の各MVは遅延器19で、符号表選択情報が出力されるまで遅延させられた後に、MV符号化器14に与えられる。   On the other hand, each MV in the MV group is delayed by the delay unit 19 until the code table selection information is output, and then supplied to the MV encoder 14.

MV符号化器14において、基本的な符号化方法は図7の従来例と同様であるが、符号表を複数有し、符号表選択情報に従ってその中のひとつが選択されて、符号化に使用される。得られた符号は多重化器8に与えられる。   In the MV encoder 14, the basic encoding method is the same as that of the conventional example of FIG. 7, but there are a plurality of code tables, and one of them is selected according to the code table selection information and used for encoding. Is done. The obtained code is given to the multiplexer 8.

多重化器8は、可変長符号化器5から与えられる予測残差の符号とMV符号化器14から与えられるMVの符号とを多重化する他に、符号表判定器18から与えられる符号表選択情報をMV符号のヘッダに挿入する。   The multiplexer 8 multiplexes the prediction residual code provided from the variable length encoder 5 and the MV code provided from the MV encoder 14, in addition to the code table provided from the code table determination unit 18. The selection information is inserted into the header of the MV code.

ここで多重化された符号列は符号出力端子9より出力される。   The code string multiplexed here is output from the code output terminal 9.

<本発明に対応する動き補償符号化装置の第2の例>
本発明の動き補償復号化装置に対応する(本発明の動き補償復号化装置において的確に復号化される符号列を生成する)動き補償符号化装置の第2の例について、以下に説明する。
<Second Example of Motion Compensation Encoding Device Corresponding to the Present Invention>
A second example of a motion compensation coding apparatus corresponding to the motion compensation decoding apparatus of the present invention (generating a code string accurately decoded in the motion compensation decoding apparatus of the present invention) will be described below.

図3は、その構成を示したもので、図1の第1の例と同一構成要素には同一番号を付してある。図3には、図1と比較して、仮MV符号化器16と符号量算出器17の代わりに、アクティビティ検出器31が存在する。また、符号表判定器32の動作は図1の符号表判定器18と異なる。   FIG. 3 shows the configuration, and the same components as those in the first example of FIG. In FIG. 3, an activity detector 31 is present instead of the temporary MV encoder 16 and the code amount calculator 17 as compared with FIG. The operation of the code table determiner 32 is different from that of the code table determiner 18 of FIG.

第2の例において、第1の例と異なるのは符号表の判定方法であり、それ以外の処理方法は基本的に同じであり、異なる部分についてのみ、以下に説明する。   In the second example, the code table determination method is different from the first example, and other processing methods are basically the same, and only different parts will be described below.

MV統合器15から与えられるMV群の各MVは、アクティビティ検出器31でMVのアクティビティが求められ、符号表判定器32に与えられる。アクティビティは、MV差分値の絶対値の和などで、MV群毎に求められる。ここでMV差分値の絶対値を対数変換してから加算すると、MV符号量との相関が高まり好都合である。   For each MV of the MV group given from the MV integrator 15, the activity detector 31 obtains the MV activity and gives it to the code table determination unit 32. The activity is obtained for each MV group, such as the sum of absolute values of MV difference values. Here, if the absolute value of the MV difference value is logarithmically converted and then added, the correlation with the MV code amount increases, which is convenient.

符号表判定器32は、アクティビティと予め設定されている閾値との関係から適切な符号表を判定する。   The code table determination unit 32 determines an appropriate code table from the relationship between the activity and a preset threshold value.

その符号表が表1と表2の2種類なら、中程度のアクティビティを閾値とし、アクティビティがそれより小さい場合は表1とし、アクティビティがそれより大きい場合は表2とする。アクティビティは、前記のようなもの以外に、分布状況をより正確に示す多次元的なものでも良い。具体的には、0以外の比較的小さなMV差分(絶対値が1から3)の頻度と、比較的大きなMV差分(絶対値が4以上)の頻度を求め、2パラメータに対して2次元的に閾値を設ける。   If there are two types of code tables, Table 1 and Table 2, medium activity is set as a threshold, Table 1 is set when the activity is smaller, and Table 2 is set when the activity is larger. In addition to the above-mentioned activities, the activities may be multidimensional that shows the distribution status more accurately. Specifically, the frequency of a relatively small MV difference (absolute value is 1 to 3) other than 0 and the frequency of a relatively large MV difference (absolute value is 4 or more) are obtained, and two-dimensional for two parameters. Is provided with a threshold value.

<本発明に対応する動き補償符号化装置の第3の例>
本発明の動き補償復号化装置に対応する(本発明の動き補償復号化装置において的確に復号化される符号列を生成する)動き補償符号化装置の第3の例について、以下に説明する。
<Third Example of Motion Compensation Encoding Device Corresponding to the Present Invention>
A third example of a motion compensation coding apparatus corresponding to the motion compensation decoding apparatus of the present invention (generating a code string accurately decoded in the motion compensation decoding apparatus of the present invention) will be described below.

第3の例は、第1の例と第2の例とを組み合わせたもので、その構成は図1と類似なもので特に図示はしない。   The third example is a combination of the first example and the second example, and its configuration is similar to that of FIG.

第3の例において、他の例と異なるのは符号表の判定方法であり、それ以外の処理は基本的に同じであるので、図1を基に異なる部分のみ以下に説明する。   In the third example, the code table determination method is different from the other examples, and the other processes are basically the same. Therefore, only different parts will be described below with reference to FIG.

図1の仮MV符号化器16と符号量算出器17は、1種類の符号表についてMV群毎に符号量を求め、符号表判定器18に与える。その際に用いる符号表は、複数ある中の最も平均的なものとする。   The temporary MV encoder 16 and the code amount calculator 17 in FIG. 1 obtain a code amount for each MV group with respect to one type of code table, and give it to the code table determiner 18. The code table used at that time is the average of a plurality of code tables.

符号表判定器18の動作は図3の符号表判定器32と類似するもので、符号量とそれに対して予め設定された閾値との関係から適当な符号表を判定し、符号表選択情報を出力する。 符号量が少ない場合には、表1のような変化の少ないMV差分に適合した符号表を、符号量が多い場合には、表2のような変化の激しいMV差分に適合した符号表を選択する。   The operation of the code table determiner 18 is similar to that of the code table determiner 32 of FIG. 3, and an appropriate code table is determined from the relationship between the code amount and a threshold value set in advance, and the code table selection information is obtained. Output. If the code amount is small, select a code table suitable for the MV difference with a small change as shown in Table 1. If the code amount is large, select a code table suitable for the MV difference with a large change as shown in Table 2. To do.

<実施例の動き補償復号化装置>
上述の各例の動き補償符号化装置に対応する本発明の動き補償復号化装置の一実施例について、以下に図と共に説明する。
<Motion Compensated Decoding Device of Embodiment>
An embodiment of the motion compensation decoding apparatus of the present invention corresponding to the motion compensation encoding apparatus of each example described above will be described below with reference to the drawings.

本発明の動き補償復号化装置の一実施例の構成を図2に示す。   The configuration of an embodiment of the motion compensation decoding apparatus of the present invention is shown in FIG.

符号入力端子21より入来する動き補償予測符号化された符号列は、多重化分離器22で予測残差の符号とMVの符号と符号表選択情報が分離され、予測残差の符号は可変長復号化器23へ、MVの符号と符号表選択情報はMV復号化器25へ与えられる。可変長復号化器23は可変長符号を固定長の符号に戻し、逆量子化器7に与えられる。   A code sequence of motion compensated predictive coding coming from the code input terminal 21 is separated into a prediction residual code, MV code, and code table selection information by a multiplexing / separating unit 22, and the prediction residual code is variable. The MV code and code table selection information are supplied to the MV decoder 25 to the long decoder 23. The variable length decoder 23 converts the variable length code back to a fixed length code and provides it to the inverse quantizer 7.

固定長符号の予測残差は逆量子化器7で係数値となり、逆DCT13に与えられる。逆DCT13は8×8個の係数を再生予測残差信号に変換し、加算器12に与える。加算器12では再生予測残差信号に予測信号が加算され、再生画像となる。この様にして得られた再生画像信号は、画像出力端子24から出力されると共に画像メモリ11に与えられる。   The prediction residual of the fixed length code becomes a coefficient value in the inverse quantizer 7 and is given to the inverse DCT 13. The inverse DCT 13 converts 8 × 8 coefficients into a reproduction prediction residual signal and supplies it to the adder 12. The adder 12 adds the prediction signal to the reproduction prediction residual signal to form a reproduction image. The reproduced image signal obtained in this way is output from the image output terminal 24 and given to the image memory 11.

動補償予測器10は、画像メモリ11に蓄積されている画像をMVに基づいて動き補償し、予測信号を形成する。得られた予測信号は加算器12に与えられる。   The motion compensation predictor 10 performs motion compensation on the image stored in the image memory 11 based on the MV, and forms a prediction signal. The obtained prediction signal is given to the adder 12.

一方、MV復号化器25は、MVの符号と符号表選択情報から図1のMV符号化器14の逆処理を行い、得られたMV値をMVバッファ26に与える。   On the other hand, the MV decoder 25 performs reverse processing of the MV encoder 14 of FIG. 1 from the MV code and code table selection information, and gives the obtained MV value to the MV buffer 26.

MVの復号で用いられる符号表は、MV群単位で符号表選択情報により複数の種類の中からひとつが選択され使用される。   A code table used for MV decoding is selected and used from a plurality of types according to code table selection information in units of MV groups.

MVバッファ26はMVを保持し、動き補償予測器10で必要となった際に与える。これはMV群が2次元で統合されている場合、主たる復号処理のブロック順番がMV群の単位と異なるためである。   The MV buffer 26 holds the MV and gives it when needed by the motion compensated predictor 10. This is because when the MV group is integrated in two dimensions, the block order of the main decoding process is different from the unit of the MV group.

本発明の動き補償復号化装置に対応する動き補償符号化装置の第1の例の構成を示す図である。It is a figure which shows the structure of the 1st example of the motion compensation encoding apparatus corresponding to the motion compensation decoding apparatus of this invention. 本発明の動き補償復号化装置の一実施例の構成を示す図である。It is a figure which shows the structure of one Example of the motion compensation decoding apparatus of this invention. 本発明の動き補償復号化装置に対応する動き補償符号化装置の第2の例の構成を示す図である。It is a figure which shows the structure of the 2nd example of the motion compensation encoding apparatus corresponding to the motion compensation decoding apparatus of this invention. MV統合によるMV群の様子を示す図である。It is a figure which shows the mode of the MV group by MV integration. 動き変化の度合いに対応したMVの様子を示す図である。It is a figure which shows the mode of MV corresponding to the degree of a motion change. 従来の動き補償符号化装置の構成例を示す図である。It is a figure which shows the structural example of the conventional motion compensation encoding apparatus. 従来の動き補償復号化装置の構成例を示す図である。It is a figure which shows the structural example of the conventional motion compensation decoding apparatus.

符号の説明Explanation of symbols

1 画像入力端子
2 減算器
3 DCT
4 量子化器
5 可変長符号化器
6 MV検出器
7 逆量子化器
8、61 多重化器
9 符号列出力端子
10 動補償予測器
11 画像メモリ
12 加算器
13 逆DCT
14、62 MV符号化器
15 MV統合器
16 仮MV符号化器
17 符号量算出器
18、32 符号表判定器
19 遅延器
21 符号列入力端子
22、71 多重化分離器
23 可変長復号化器
24 画像出力端子
25、72 MV復号化器
26 MVバッファ
31 アクティビティ検出器
1 Image input terminal 2 Subtractor 3 DCT
4 Quantizer 5 Variable Length Encoder 6 MV Detector 7 Inverse Quantizer 8, 61 Multiplexer 9 Code Sequence Output Terminal 10 Dynamic Compensation Predictor 11 Image Memory 12 Adder 13 Inverse DCT
14, 62 MV encoder 15 MV integrator 16 Temporary MV encoder 17 Code amount calculator 18, 32 Code table determiner 19 Delay unit 21 Code string input terminal 22, 71 Demultiplexer 23 Variable length decoder 24 Image output terminals 25, 72 MV decoder 26 MV buffer 31 Activity detector

Claims (2)

動画像が動き補償ブロック毎の動きベクトルにより動き補償予測符号化された動画像符号列を復号化する動き補償復号化装置において、
入来する動画像符号列は、前記動き補償ブロックを16個〜64個程度の範囲内で統合した統合単位で一画像を複数の領域に分割されるように区切ったその各統合単位において前記動きベクトルを統合して得た動きベクトル群毎に、複数の可変長符号化表から前記動きベクトルを符号化するために選択された可変長符号表を示す符号表選択情報と、前記選択された可変長符号表を用いて前記動きベクトルが可変長符号化された動きベクトルの情報とが多重化されているものであり、
前記動きベクトルを符号化するための可変長符号表は、前記複数の可変長符号表により前記動きベクトルを符号化した際の符号量に関する値を前記動きベクトル群毎に比較した比較結果に応じて、前記複数の可変長符号表から前記動きベクトル群毎に選択されたものであり、
前記入来する動画像符号列から、前記動きベクトルの情報と前記符号表選択情報とを分離して得る多重化分離手段と、
前記符号表選択情報に従って選択された可変長符号表を用いて、前記動きベクトルの情報を可変長復号化する動きベクトル復号化手段と、
前記復号化された動きベクトルを用いて、前記入来する動画像符号列を動き補償予測復号化して前記動画像を得る復号化手段と、
を有することを特徴とする動き補償復号化装置。
In a motion compensation decoding apparatus for decoding a motion picture code sequence in which a motion picture is motion compensation prediction encoded by a motion vector for each motion compensation block,
An incoming moving image code string includes the motion in each integrated unit obtained by dividing one image into a plurality of regions by integrating units in which the motion compensation blocks are integrated within a range of about 16 to 64. Code table selection information indicating a variable length code table selected for encoding the motion vector from a plurality of variable length coding tables for each motion vector group obtained by integrating vectors, and the selected variable The motion vector information obtained by variable-length coding the motion vector using a long code table is multiplexed,
The variable length code table for encoding the motion vector is in accordance with a comparison result in which a value related to a code amount when the motion vector is encoded by the plurality of variable length code tables is compared for each motion vector group. , Selected for each of the motion vector groups from the plurality of variable length code tables,
Demultiplexing means for separating the motion vector information and the code table selection information from the incoming video code sequence,
Motion vector decoding means for variable-length decoding the motion vector information using a variable length code table selected according to the code table selection information;
Decoding means for obtaining the moving picture by performing motion compensation predictive decoding on the incoming moving picture code string using the decoded motion vector;
A motion compensation decoding apparatus comprising:
動画像が動き補償ブロック毎の動きベクトルにより動き補償予測符号化された動画像符号列を復号化する動き補償復号化装置において、
入来する動画像符号列は、前記動き補償ブロックを16個〜64個程度の範囲内で統合した統合単位で一画像を複数の領域に分割されるように区切ったその各統合単位において前記動きベクトルを統合して得た動きベクトル群毎に、複数の可変長符号化表から前記動きベクトルを符号化するために選択された可変長符号表を示す符号表選択情報と、前記選択された可変長符号表を用いて前記動きベクトルが可変長符号化された動きベクトルの情報とが多重化されているものであり、
前記動きベクトルを符号化するための可変長符号表は、前記複数の可変長符号表から予め選択されている1つの可変長符号表により前記動きベクトルを符号化した際の符号量に関する値を前記動きベクトル群毎に求め、前記動きベクトル群毎の符号量に関する値と予め設定されている閾値との関係に応じて、前記複数の可変長符号表から前記動きベクトル群毎に選択されたものであり、
前記入来する動画像符号列から、前記動きベクトルの情報と前記符号表選択情報とを分離して得る多重化分離手段と、
前記符号表選択情報に従って選択された可変長符号表を用いて、前記動きベクトルの情報を可変長復号化する動きベクトル復号化手段と、
前記復号化された動きベクトルを保持するバッファ手段と、
前記各動き補償ブロックに応じた前記復号化された動きベクトルが前記バッファ手段から供給されて、前記入来する動画像符号列を動き補償予測復号化して前記動画像を得る復号化手段と、
を有することを特徴とする動き補償復号化装置。
In a motion compensation decoding apparatus for decoding a motion picture code sequence in which a motion picture is motion compensation prediction encoded by a motion vector for each motion compensation block,
An incoming moving image code string includes the motion in each integrated unit obtained by dividing one image into a plurality of regions by integrating units in which the motion compensation blocks are integrated within a range of about 16 to 64. Code table selection information indicating a variable length code table selected for encoding the motion vector from a plurality of variable length coding tables for each motion vector group obtained by integrating vectors, and the selected variable The motion vector information obtained by variable-length coding the motion vector using a long code table is multiplexed,
The variable length code table for encoding the motion vector has a value related to a code amount when the motion vector is encoded by one variable length code table preselected from the plurality of variable length code tables. Obtained for each motion vector group, and selected for each motion vector group from the plurality of variable length code tables according to the relationship between the value related to the code amount for each motion vector group and a preset threshold value. Yes,
Demultiplexing means for separating the motion vector information and the code table selection information from the incoming video code sequence,
Motion vector decoding means for variable-length decoding the motion vector information using a variable length code table selected according to the code table selection information;
Buffer means for holding the decoded motion vector;
Decoding means for obtaining the moving picture by receiving the decoded motion vector corresponding to each motion compensation block from the buffer means and performing motion compensation predictive decoding on the incoming moving picture code string;
A motion compensation decoding apparatus comprising:
JP2003273897A 2003-07-14 2003-07-14 Motion compensation decoding apparatus Expired - Lifetime JP3948442B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003273897A JP3948442B2 (en) 2003-07-14 2003-07-14 Motion compensation decoding apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003273897A JP3948442B2 (en) 2003-07-14 2003-07-14 Motion compensation decoding apparatus

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP17700398A Division JP3888597B2 (en) 1998-06-24 1998-06-24 Motion compensation coding apparatus and motion compensation coding / decoding method

Publications (2)

Publication Number Publication Date
JP2004007775A JP2004007775A (en) 2004-01-08
JP3948442B2 true JP3948442B2 (en) 2007-07-25

Family

ID=30438616

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003273897A Expired - Lifetime JP3948442B2 (en) 2003-07-14 2003-07-14 Motion compensation decoding apparatus

Country Status (1)

Country Link
JP (1) JP3948442B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5729817B2 (en) 2011-06-29 2015-06-03 日本電信電話株式会社 Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program

Also Published As

Publication number Publication date
JP2004007775A (en) 2004-01-08

Similar Documents

Publication Publication Date Title
JP3888597B2 (en) Motion compensation coding apparatus and motion compensation coding / decoding method
JP3856262B2 (en) Motion compensation encoding apparatus, motion compensation encoding method, and motion compensation code recording medium
EP1370087B1 (en) Moving picture coding apparatus and moving picture decoding apparatus
KR100314116B1 (en) A motion-compensated coder with motion vector accuracy controlled, a decoder, a method of motion-compensated coding, and a method of decoding
KR950010913B1 (en) Vlc &amp; vld system
US6393059B1 (en) Conversion of video data bit stream
US20040136457A1 (en) Method and system for supercompression of compressed digital video
KR101425602B1 (en) Method and apparatus for encoding/decoding image
US20070065026A1 (en) Method of and apparatus for lossless video encoding and decoding
US20040125204A1 (en) Moving picture coding apparatus and moving picture decoding apparatus
JP4284265B2 (en) Moving picture coding apparatus, moving picture coding method, moving picture decoding apparatus, and moving picture decoding method
JP2000324498A (en) Animation encoding device
KR20060059774A (en) Method and apparatus for encoding/decoding a video signal using motion vectors of pictures at different temporal decomposition level
JP3948442B2 (en) Motion compensation decoding apparatus
JP2004007778A (en) Motion compensating and decoding method
US20040013200A1 (en) Advanced method of coding and decoding motion vector and apparatus therefor
JP2004007776A (en) Motion compensating and decoding method
JP2004007777A (en) Motion compensating and decoding apparatus
JP2004007774A (en) Motion compensating and coding method
KR0130167B1 (en) Mpeg apparatus
KR100293369B1 (en) Digital video compression coding and decoding system using shape adaptive selection and thereof method
KR100530566B1 (en) Image compression coding and decoding apparatus using adaptive transformation method and method thereof
JPH0514873A (en) Image encoder
JPH1141594A (en) Moving image coder and method, moving image decoder and method and transmission medium
JP2005333662A (en) Coding instrument, decoding instrument, recoding instrument and coding method, decoding method, and recoding method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060606

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070327

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070409

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110427

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120427

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120427

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130427

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140427

Year of fee payment: 7

EXPY Cancellation because of completion of term