JPH06141302A - 動き情報差分化器及び逆差分化器 - Google Patents

動き情報差分化器及び逆差分化器

Info

Publication number
JPH06141302A
JPH06141302A JP4286493A JP28649392A JPH06141302A JP H06141302 A JPH06141302 A JP H06141302A JP 4286493 A JP4286493 A JP 4286493A JP 28649392 A JP28649392 A JP 28649392A JP H06141302 A JPH06141302 A JP H06141302A
Authority
JP
Japan
Prior art keywords
motion
information
field
prediction
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP4286493A
Other languages
English (en)
Inventor
Motoki Kato
元樹 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP4286493A priority Critical patent/JPH06141302A/ja
Publication of JPH06141302A publication Critical patent/JPH06141302A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【目的】 MC−typeをフレーム構成/フイールド
構成で適応的に切り換える画像信号符号化/復号化装置
における、高効率かつ簡易構成の動き情報差分化/逆差
分化器を提供する。 【構成】 動き補償時の参照画像(フールド/フレー
ム)の動き情報を記憶する、参照画像数分のレジスタを
設け、MC−type、MB−type等の動き予測情
報に基づき、対応する動き情報を対応するレジスタから
出力させる。そして、差分化器では対象MBと参照MB
の動き情報との差分をとり、差分情報を符号化する。ま
た、逆差分化器では入力された差分情報と参照MBの動
き情報との和分をとり、再構成された動き情報を得る。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、動画像の符号化及び復
号化の際に用いられる動き情報、例えば、動きベクトル
の差分化器及び逆差分化器に関する。
【0002】
【従来の技術】動画像の符号化方式の代表的技術の1つ
として、動き補償予測符号化がある。図1に動き補償予
測の原理を示す。
【0003】動き補償予測符号化は、画像信号の時間軸
方向の相関を利用した方法であり、すでに復号再生され
てわかっている画像信号から、現在入力された画像を予
測し、当該復号再生されてわかっている画像信号を信号
の動きに合わせ移動し、その時の動き情報(動きベクト
ル)とその時の予測誤差だけを伝送することで、符号化
に必要な情報量を圧縮する方法である。
【0004】動き補償予測符号化およびその復号化方法
について、その代表的なものにISO−IEC/JTC
1/SC2/WG11(通称MPEGという)において
決められた蓄積用動画像符号化の標準方式(通称MPE
G1という)がある。MPEG1は、画像内および画像
間符号化処理装置を有しているが、動き補償予測符号化
は画像間符号化処理の場合に用いられる。
【0005】MPEG1は、図2に示すようにノンイン
タレース画像を扱い、1フレームを小ブロックに分割
し、その小ブロック単位で動き補償予測符号化を行な
う。この時の動き補償予測は、適応予測となっており、
以下の3種類の予測の中から最適なものが選ばれる。
【0006】(1)時間的に過去にあるフレームからの
予測(前方向予測)。 (2)時間的に未来にあるフレームからの予測(後方向
予測)。 (3)上記の過去未来両フレームからの線形予測モード
(両方向予測)(過去フレームからの予測ブロックと未
来フレームからの予測ブロックを1画素毎に平均値計算
をする。)
【0007】MPEG1は、現在入力されたフレーム画
像に対し、上記の動き補償予測時に参照する過去フレー
ムと未来フレームはそれぞれ1フレーム存在する。よっ
て、小ブロック単位でのその時の動き情報(動きベクト
ル)は、上記の(1)の予測では、過去フレームを参照
する動きベクトルが1つ、上記の(2)の予測では、未
来フレームを参照する動きベクトルが1つ、 上記の
(3)の予測では、過去未来両フレームを参照する動き
ベクトルがそれぞれ1つずつ、存在する。MPEG1で
は、これら小ブロック単位で与えられる動き情報(動き
ベクトル)は、その情報のもつ空間的な相関性が高いこ
とを利用して、図3に示す差分化器により、差分化して
伝送される。
【0008】具体的には、動き予測モード4を受けて切
替器3から出力されたレジスタ切替信号S1に従ってレ
ジスタ群2からスイッチ7を通って読み出された動きベ
クトルS2を相手にして、現在入力された動きベクトル
1は差分回路5で差分化ベクトル8となって出力され
る。
【0009】また、現在入力された動きベクトル1はレ
ジスタ切替信号S1により指定されたレジスタにスイッ
チ6を通って上書きされ、新たに記憶される。これによ
り、過去フレームを参照する動きベクトルと未来フレー
ムを参照する動きベクトルは、それぞれ独立に差分化さ
れることになる。差分化器の動作の具体例を図4に示
す。
【0010】尚、図中の動きベクトル(X,Y)は、X
成分が水平方向の動きを表し、Y成分が垂直方向の動き
を表す。そして、空間的に右方向および下方向の動きに
は正の値を与え、また左方向および上方向の動きには負
の値を与える。また、図5に図4で示した差分化器と相
補的な構成である差分化された動きベクトルから動きベ
クトルを再構成するための逆差分化器を示す。
【0011】動き予測モード14を受けて切替器13か
ら出力されたレジスタ切替信号S3に従ってレジスタ群
10からスイッチ11を通って読み出された動きベクト
ルS4と、現在入力された差分化動きベクトル8は、加
算回路9で加算され、再構成ベクトル15となって出力
される。また、当該再構成動きベクトル15は、レジス
タ切替信号S3により指定されたレジスタにスイッチ1
2を通って上書きされ、新たに記憶される。
【0012】ところで、MPEG1は、上記の様にノン
インタレース画像に適した動画像符号化方法であるた
め、現行のテレビジョン信号であるインタレース信号の
符号化に対しては、必ずしも適しているとはいえない。
そのため近年、インタレース信号に対し、効率の良い動
き補償予測符号化を行なう方式が考えられ、そこでは図
6に示すように、画像を扱う単位をフレームとフィール
ドで適応的に切替え、この時、画像を扱う単位をフレー
ムとした場合には、更に1フレーム中の小ブロックをフ
レーム単位で構成するか、フィールド単位で構成するか
を適応的に切替えるという方法がとられている。
【0013】またMPEG1と異なり、動き補償予測時
に参照する過去フレーム(または過去フィールド)と未
来フレーム(または未来フィールド)はそれぞれ1つ以
上存在する場合がある。そのため小ブロック単位で与え
られる動き情報(動きベクトル)は、1つ以上の過去フ
レーム(フィールド)を参照する1つ以上の動きベクト
ル、または1つ以上の未来フレーム(フィールド)を参
照する1つ以上の動きベクトル、または1つ以上の過去
未来両フレーム(フィールド)を参照する1つ以上の動
きベクトルである場合がある。
【0014】この様にインタレース信号に対する動き補
償予測は、MPEG1に比べ複雑な方式が考えられてお
り、それに伴って、その時の動き情報(動きベクトル)
もMPEG1に比べ多大となる。そのため、動き情報
(動きベクトル)の符号化に際してはMPEG1で用い
られている方法を適用できず、改良が必要である。
【0015】しかしながら、その動き情報(動きベクト
ル)を効率良く符号化し、伝送するための方法について
は未だ明示されていない。また、その動き情報(動きベ
クトル)の符号化方法は、画像を扱う単位をフレームと
した場合とフィールドとした場合とで共通の方法であれ
ば、符号化器および符号化された情報を復号する復号化
器の構成を簡単化できるが、その実現方法についても未
だ明示されていない。
【0016】
【発明が解決しようとする課題】動き補償予測符号化に
おいて参照する動き情報(動きベクトル)を効率良く符
号化するための手段として、従来例で示した様にそれら
動きベクトルを差分化する方法が考えられるが、この場
合、当該差分化器を構成するための方法及びその差分化
動きベクトルを符号化するための方法、更に、符号化さ
れた情報から差分化動きベクトルを復号化するための方
法及びその差分化動きベクトルから動きベクトルを再構
成するための逆差分化器を構成するための方法が重要で
ある。
【0017】本発明ではかかる点に着目し、画像を扱う
単位をフレーム構造とフィールド構造で適応的に切り換
え、この時、画像を扱う単位をフレームとした場合に
は、更に1フレーム中の小ブロックをフレーム単位で構
成するか、フィールド単位で構成するかを適応的に切り
換え、動き補償予測符号化時に1つ以上の過去フレーム
(または過去フィールド)または1つ以上の未来フレー
ム(または未来フィールド)またはそれら両方を参照す
る場合において、符号器側では、動き補償予測時に参照
する動きベクトルを差分化するための差分化器を提供
し、さらに当該差分化動きベクトルを符号化するための
方法を提供し、復号器側では、受信情報から差分化動き
ベクトルを復号するための方法を提供し、さらに当該差
分化動きベクトルから動きベクトルを再構成するための
逆差分化器を提供することを目的としている。
【0018】更に上記差分化器及び逆差分化器を、画像
を扱う単位をフレームとした場合とフィールドとした場
合とで共通に使用することにより、符号化器および復号
化器の構成を簡単化することを目的とするものである。
【0019】
【課題を解決するための手段】このような課題を解決す
るために本発明による動き情報差分化器は、動き補償予
測の対象となっているブロツクの動き情報と動き補償予
測時に参照したブロツクの動き情報との差分を取る動き
情報差分化器において、動き補償予測時に参照される、
少なくともフイールドの動き情報を異なる領域に記憶し
ておく記憶手段と、動き予測情報に基づき、対応する上
記参照ブロツクの動き情報を出力するように上記記憶手
段を制御する切り換え手段とを備え、上記動き予測情報
は、少なくとも予測の際の参照フレーム又はフイールド
に関する情報及び動き補償のタイプを表すMC−typ
e(例えば、上記ブロツクにおけるフレーム構造を単位
として動き補償を行うか、フイールド構造を単位として
動き補償を行うかを表す情報)を含むことを特徴とする
ものである。
【0020】また、上記記憶手段には、上記動き補償予
測時に参照するフイールド数分のレジスタからなるレジ
スタ群であって、各レジスタには対応する参照フイール
ドのブロツクの動き情報がそれぞれ格納されていること
を特徴とするものである。
【0021】さらに、上記切り換え手段は、上記動き補
償が参照画像をフレームとし、上記フレーム構造を単位
として行われる場合は、参照フレームにおける何れか1
のフイールドの動き情報を出力するように上記記憶手段
を制御する。
【0022】一方、本発明による動き情報逆差分化器
は、動き補償予測の対象となっているブロツクの差分化
動き情報と動き補償予測時に参照するブロツクの動き情
報との和分を取り、上記対象ブロツクの動き情報を再構
成するための動き情報逆差分化器において、動き補償予
測時に参照される、少なくともフイールドの動き情報を
異なる領域に記憶しておく記憶手段と、動き予測情報に
基づき、対応する上記参照ブロツクの動き情報を出力す
るように上記記憶手段を制御する切り換え手段とを備
え、上記動き予測情報は、少なくとも予測の際の参照フ
レーム又はフイールドに関する情報及び動き補償のタイ
プを表すMC−type(例えば、上記ブロツクにおけ
るフレーム構造を単位として動き補償を行うか、フイー
ルド構造を単位として動き補償を行うかを表す情報)を
含むことを特徴としたものである。
【0023】また、上記記憶手段には、上記動き補償予
測時に参照するフイールド数分のレジスタからなるレジ
スタ群であって、この各レジスタには対応する参照フイ
ールドのブロツクの動き情報がそれぞれ格納されてい
る。
【0024】さらに、上記切り換え手段は、上記動き補
償が参照画像をフレームとし、上記フレーム構造を単位
として行われる場合は、参照フレームにおける何れか1
のフイールドの動き情報を出力するように上記記憶手段
を制御する。
【0025】
【作用】本発明による動き情報差分化器によれば、動き
予測情報(例えば、前方向予測等の予測モード情報、フ
レーム又はフイールドの何れを参照画像としたかの情
報、MC−typeの情報等である。)に対応して参照
画像の動き情報(例えば、動きベクトル)を出力し、差
分動き情報を得るようにしたので、インタレース信号の
符号化時の複雑な動き補償予測に用いられる動き情報を
効率良く符号化し、伝送することができ、差分化器の構
成も簡単化できる。
【0026】また、参照画像がフレームの場合でも、そ
のフレームにおける何れかのフイールド、即ち、第1フ
イールド又は第2フイールドの動き情報を差分に用いる
ことにより、フレームの動き情報用のレジスタを設ける
必要がなく、従って、差分化器をさらに簡単化できる。
【0027】本発明による動き情報逆差分化器によれ
ば、動き予測情報(例えば、前方向予測等の予測モード
情報、フレーム又はフイールドの何れを参照画像とした
かの情報、MC−typeの情報等である。)に対応し
て参照画像の動き情報(例えば、動きベクトル)を出力
し、入力された差分動き情報と参照画像の動き情報との
和分を取り、動き情報を再構成するようにしたので、イ
ンタレース信号の符号化時の複雑な動き補償予測に用い
られる動き情報を効率良く復号化することができ、逆差
分化器の構成も簡単化できる。
【0028】また、参照画像がフレームの場合でも、そ
のフレームにおける何れかのフイールド、即ち、第1フ
イールド又は第2フイールドの動き情報を和分に用いる
ことにより、フレームの動き情報用のレジスタを設ける
必要がなく、従って、逆差分化器をさらに簡単化でき
る。
【0029】
【実施例】実施例の説明に入る前に、先ず、MPEGに
おけるシーケンス、GOP(グループ・オブ・ピクチャ
ズ)、ピクチャ、スライス、MB(マクロブロツク)、
ブロツクについて図9を用いて説明する。
【0030】1.ブロツク層 ブロツクは、輝度または色差の隣あった例えば8ライン
×8画素から構成される。例えば、DCTはこの単位で
実行される。
【0031】2.MB層 MBは、例えば画像のフォーマットが4:2:0である
場合、左右及び上下に隣あった4つの輝度ブロツクと、
画像上では同じ位置にあたるCb ,Cr それぞれの色差
ブロツクの全部で6つのブロツクで構成される。伝送の
順はY0,Y1,Y2,Y3,Cb,Cr である。動き補償予測時
の動き情報(動きベクトル),動き予測モードに何を用
いるか、予測誤差を送らなくても良いかなどは、この単
位で判断される。
【0032】3.スライス層 画像の走査順に連なる1つまたは複数のマクロブロツク
で構成される。スライスの頭では、画像内における動き
ベクトル、DC成分の差分がリセツトされ、最初のマク
ロブロツクは画像内での位置を示すデータを持ってお
り、エラーが起こった場合でも復帰できるように考えら
れている。そのためスライスの長さ、始まる位置は任意
で、伝送路のエラー状態によって変えられるようになっ
ている。
【0033】4.ピクチヤ層 ピクチヤつまり1枚1枚の画像は、少なくとも1つまた
は複数のスライスから構成される。そして符号化される
方式にしたがって、Iピクチヤ、Pピクチヤ、Bピクチ
ヤ、Dピクチヤに分類される。
【0034】5.GOP GOPは、1又は複数枚のIピクチヤと0又は複数枚の
非Iピクチヤから構成される。
【0035】6.ビデオシーケンス層 ビデオシーケンスは、画像サイズ、画像レート等が同じ
1または複数のGOPから構成される。
【0036】実施例にて説明する本手法はインタレース
画像信号、ノンインタレース(プログレッシブ)画像信
号の両方に適用できるが、実施例ではインタレース画像
信号の場合を中心に説明する。
【0037】動き補償予測符号化時に参照する動き情報
(動きベクトル)を符号化するために使用する、本発明
での動きベクトル符号化器のブロック図を図10に示
す。動きベクトル符号化器側への入力信号としては動き
情報(動きベクトル)信号16と動き予測モード信号2
2がある。まず、動きベクトル、動き予測モード、MC
−type信号の決定方法について説明する。ここで、
MC−typeとは、動き補償のタイプを表すもので、
例えば、上記MB単位の動き補償をフレーム構成で行う
か、フイールド構成で行うかを表す。他にもSumar
t−Predictionであるか否かの情報やDua
l−MCであるかの情報等がある。
【0038】尚、本発明では、インタレース画像信号に
対して、例えば、上記MB単位の動き補償をフレーム構
成で行うか、フイールド構成で行うかを適応的に切り換
えて行う場合、即ち、現在入力されたフレーム(フィー
ルド)画像に対し、それを構成する小ブロック単位での
動き補償予測符号化時に参照する動き情報(動きベクト
ル)を、1つ以上の過去フレーム(または過去フィール
ド)または1つ以上の未来フレーム(または未来フィー
ルド)またはそれら両方から予測する場合を考える。
【0039】動き補償予測は、適応予測となっており、
以下の3種類の予測モードの中から最適なもの(効率が
良いもの)が選ばれる。
【0040】時間的に過去にある1つ以上のフレーム
(フィールド)からの予測モード(前方向予測)。 時間的に未来にある1つ以上のフレーム(フィール
ド)からの予測モード(後方向予測)。 上記の過去未来両方の1つ以上のフレーム(フィール
ド)からの予測モード(両方向予測)。
【0041】また、上記の動き補償予測符号化器で使用
される動き情報(動きベクトル)の決定方法、及び、そ
こで選択されるMC−typeの決定方法に関しては、
例えば以下の方法を適用しうる。
【0042】なお、ここでは、MC−typeを適応的
に切り換えて符号化を行うエンコーダ(図14)の構成
を用いて説明する。
【0043】図14で、フレームメモリ群41から上記
マクロブロック単位で出力された画像データは、フレー
ム動き検出回路53及びフィールド動き検出回路52に
伝送される。
【0044】上記フレーム動き検出回路53は、上記マ
クロブロック単位でフレーム間の動きベクトルと各画素
の絶対値差分和を検出し、これらのデータ(フレーム間
の動きベクトルのデータFMMVと絶対値差分和のデータ
FMAD)を出力する。また、上記フィールド動き検出回
路52は、上記マクロブロック単位でフィールド間の動
きベクトルと各画素の絶対値差分和を検出し、これらの
データ(フィールド間の動きベクトルのデータFDMVと
絶対値差分和のデータFDAD)を出力する。これら動き
検出回路52及び53の各動きベクトルのデータFMMV
/FDMVは上記セレクタ24に伝送され、各絶対値差分
和のデータFMAD/FDADはMC−type判定回路5
4に伝送される。
【0045】当該MC−type判定回路54は、上記
フレーム動き検出回路53からの絶対値差分和データF
MADと上記フィールド動き検出回路52からの絶対値差
分和データFDADとに基づいて、動き補償器付フレーム
メモリ群51での動き予測処理の際にMBを上記フレー
ム構成で動き予測処理を行うか或いはフィールド構成で
動き予測処理を行うかの判定を行い、いずれか有利な方
(効率の良い方)の処理モードを示すデータを出力す
る。具体的にいうと、このMC−type判定回路54
において、例えば絶対値差分和データFMADと絶対値差
分和データFDADとの差があるしきい値T1 よりも大き
い(FMAD−FDAD>T1 の時)と判定された場合は、
当該回路54からMBを上記フィールド構成で動き予測
処理を行う方が効率が良いことを示すデータMPFDを出
力する。逆に、絶対値差分和データFMADと絶対値差分
和データFDADとの差が上記しきい値T1 よりも小さい
か或いは等しい(FMAD−FDAD≦T1 の時)と判定さ
れた場合は、上記フレーム構成で動き予測処理を行う方
が効率が良いことを示すデータMPFMを出力する。これ
ら何れかのMC−typeデータMPFM/MPFDは、動
き補償器付フレームメモリ群51に送られ、これによ
り、当該フレームメモリ群51では、フレーム構成或い
はフィールド構成で動き補償を行う。また、これらMC
−typeデータMPFM/MPFDは、セレクタ55にも
送られる。
【0046】当該セレクタ55は、上記MC−type
判定回路54からのMC−typeデータMPFM/MP
FDに応じて、上記フレーム動き検出回路53から供給さ
れているフレーム間の動きベクトルのデータFMMVと、
上記フィールド動き検出回路52から供給されているフ
ィールド間の動きベクトルのデータFDMVのいずれかを
選択出力する。すなわち、上記MC−typeデータが
フィールド予測モードを示すデータMPFDの時は上記フ
ィールド動き検出回路52からの動きベクトルデータF
DMVを選択して出力し、上記MC−typeデータがフ
レーム予測モードを示すデータMPFMの時には上記フレ
ーム動き検出回路53からの動きベクトルデータFMMV
を選択して出力する。当該セレクタ55で選択された動
きベクトルデータFMMV/FDMVは、上記ブロック化モ
ード判定回路56に送られる。
【0047】以上の方法により、動きベクトルとMC−
typeが決定され、動きベクトル用の差分化器36
(図13)に入力される。
【0048】次に、当該動きベクトル用の差分化器のブ
ロック図を図7に示す。
【0049】全体のデータの流れとしては、現在入力さ
れる動きベクトル16を、動き予測モード信号22によ
ってレジスタ群18の中から指定されたレジスタから読
み出される動きベクトルの値と差分化し、差分化動きベ
クトル25を出力し、そして、現在入力された動きベク
トル16は、現在、選択参照されたレジスタに上書きさ
れ、新たに記憶されるという構成となっている。
【0050】次にそれぞれのブロックについて詳細に説
明する。レジスタ群18には、動き補償予測時に参照す
る過去フレーム(フィールド)と未来フレーム(フィー
ルド)、それぞれのフレーム(フィールド)枚数の和n
に等しい数のレジスタを用意する。例えば、図12に示
すような場合は、動き補償予測時に過去フィールド1と
過去フィールド2そして未来フィールド1と未来フィー
ルド2を参照するため、動きベクトル記憶用のレジスタ
は4個用意する。
【0051】なお、レジスタ1個には、動きベクトル
(X,Y)のX成分とY成分が記憶されるものとする。
【0052】したがって、これら4個のレジスタを用い
て、過去フィールド1を参照する動きベクトルは、レジ
スタ1に記憶し、過去フィールド2を参照する動きベク
トルは、レジスタ2に記憶し、未来フィールド1を参照
する動きベクトルは、レジスタ3に記憶し、未来フィー
ルド2を参照する動きベクトルは、レジスタ4に記憶
し、過去フレーム1を参照する動きベクトルは、レジス
タ1とレジスタ2の両方に記憶し、未来フレーム1を参
照する動きベクトルは、レジスタ3とレジスタ4の両方
に記憶する様にする。
【0053】なお、フレーム単位での予測を行なう場合
は、参照が過去の場合は過去フィールド1と過去フィー
ルド2の両フィールドであり、一方参照が未来の場合は
未来フィールド1と未来フィールド2の両フィールドと
なるので、これら場合についてのレジスタは特別には用
意せず、フィールド参照用のレジスタで兼用させてい
る。
【0054】しかし、過去フレーム1を参照する動きベ
クトル記憶用のレジスタと未来フレーム1を参照する動
きベクトル記憶用のレジスタを別に持つことも可能であ
る。切替回路21は、入力される動き予測モード信号2
2から現在入力された動きベクトル信号16が参照する
フレームまたはフィールドを判断し、それと同一のフレ
ームまたはフィールドを参照する動きベクトルが記憶さ
れているレジスタを指定する信号S5を出力し、レジス
タ群18は当該レジスタ指定信号S5を受けて、指定さ
れたレジスタに記憶されている動きベクトル信号S7を
スイッチ20を通して出力する。
【0055】当該レジスタ出力動きベクトル信号S7
は、必要に応じ、スケール変換器A23にて切替回路2
1から出力されるS10のスケール指示信号Aによりス
ケール変換された後、差分回路24に入力され、現在入
力された動きベクトル信号16との差値が計算され、か
くして差分化動きベクトル信号25が出力される。ただ
し、入力動きベクトル信号16がフレームを参照してい
る場合は、レジスタ出力動きベクトル信号S7としてど
のレジスタを参照するか、すなわち、フィールド1を参
照するかフィールド2を参照するかをあらかじめ、決め
ておく必要がある。また、この場合、フイールド1とフ
イールド2との動きベクトルの平均を採り、動きベクト
ルとしてもよい。
【0056】本実施例では、フレームを参照画像として
いる場合は、フィールド1を参照することとするが、フ
ィールド2を参照しても問題はない。また、入力動きベ
クトル信号16が過去フィールド1と過去フィールド2
の両方、または未来フィールド1と未来フィールド2の
両方を参照する場合にも、レジスタ出力動きベクトル信
号S7としてどのレジスタを参照するか決めておく必要
がある。本実施例では、前者の場合、過去フィールド1
を、後者の場合、未来フィールド1を参照するようにし
ているが、それぞれ過去フィールド2,未来フィールド
2を参照しても問題はない。
【0057】一方、現在入力された動きベクトル信号1
6は、必要に応じ、スケール変換器B17にて切替回路
21から出力されるS9のスケール指示信号Bによりス
ケール変換された後、切替回路21から出力されるレジ
スタ指定信号S5により指定されたレジスタに、スイッ
チ19を通して上書きされ、新たに記憶される。差分化
器のリセットは、スライスの先頭と画像内符号化処理
(イントラコーディングモード)されたMBにおいて行
なわれ、この時、レジスタ群18の中のすべてのレジス
タはゼロにリセットされる。
【0058】なお、スケール変換器A23とスケール変
換器B17は、フレームを参照する動きベクトルとフィ
ールドを参照する動きベクトル同士の差分化動きベクト
ルを計算する時の空間的なスケール調整や、参照フィー
ルドまでの時間的な距離が異なる動きベクトル同士の差
分化ベクトルを計算する時の、時間軸的な原因に基ずく
スケール調整に使用されたりする。以上のように動きベ
クトル用の差分化器を構成する。
【0059】図13に当該動きベクトル用の差分化器の
動作を実際の数値例で説明したもの示す。ここでは、前
方向予測について例を示すが、後方向予測および両方向
予測についても同様に表せる。
【0060】動きベクトル用の差分化器より出力された
差分化動きベクトル25は、動き予測モード22ととも
に可変長符号化器37にて可変長符号化されて、ビット
ストリーム38が伝送される。このビツトストリーム
は、例えば、MC−typeに関する情報、前方向予測
等の予測モードの情報(マクロブロツクタイプ)、差分
動きベクトル、どこの画像を参照画像としたかについて
の拡張ビツトの順で構成される。予測モードが両方向予
測の時は、さらに差分動きベクトル、上記拡張ビツトが
付加される。
【0061】拡張ビツトの付加であるが、例えば、以下
のように行われ、従来との互換性をとっている。
【0062】すなわち、例えばBフレームにおいて、マ
クロブロックタイプは上述のように前予測、後予測、両
予測の3つがあるが、前予測についてMC−typeが
フィールド予測モードの時は前フレームの第1フィール
ドと第2フィールドからの予測の2通りが考えられるの
で、いずれかの予測か認識する拡張ビットを加えること
により本符号を実現している。この場合の予測は2通り
なので、拡張ビットは1つの方向(前、後予測)につい
て、1ビット付加すればよい。例えば、前又は後予測で
第1フィールドからの予測の場合は、符号1を、第2フ
ィールドからの予測の場合は、符号0を拡張ビットとし
て従来のマクロブロックタイプに付加すればよいのであ
る。また、両予測では、前又は後予測について両方の拡
張ビットが付加される。
【0063】尚、フレーム予測モードであれば、拡張ビ
ットは付加せず、従来のビットストリーム(MPEG)
と同じ形式となる。以上のことは、Pフレームの場合で
も同様に適用される。
【0064】次に、自己フレーム内の第1フイールドか
ら第2フイールドの予測を可能にする場合、例えばBフ
レームにおいて、マクロブロックタイプは、上述のよう
に前予測、後予測、両予測があるが、前予測についてフ
ィールド予測モードの時、第1フィールドからの予測
か、第2フィールドからの予測か、自己のフレーム内の
第1フィールドからの予測か認識させる拡張ビットをマ
クロブロックタイプに付加しなければならない。即ち、
前予測のフィールド予測モードでは、自己フレーム内か
らの予測があるので、第1・第2を含め、3通りの予測
を拡張ビットで表現するためには、1又は2ビットの拡
張ビットが必要となり、後予測のフィールド予測モード
では、第1・第2の2通りのみであるので、常に拡張ビ
ットは1ビット必要となる。例えば、前予測では、前フ
レームの第1フィールドからの予測の場合は符号1、前
フレームの第2フィールドからの予測の場合は符号0
1、現フレームの第1フィールドからの予測の場合は符
号11を付加し、後予測では、後フレームの第1フィー
ルドからの予測の場合は符号1、後フレームの第2フィ
ールドからの予測の場合は符号0を、拡張ビットとして
従来のマクロブロックタイプに付加すればよいのであ
る。
【0065】尚、MC−typeがフレーム予測モード
であれば、拡張ビットは付加せず、従来のビットストリ
ーム(MPEG)と同じ形式となる。また、両予測で
は、前又は後予測について両方の拡張ビットが付加され
る。以上のことはPフレームの場合でも同様に適用され
る。
【0066】さらに、この変形として、上記前予測の場
合の拡張ビットを1ビットに減らすこともできる。即
ち、フィールド予測モードにおけるイーブンサイクルに
おいて、図15に示すように、時間的及び位置的に一番
離れた前フレームの第1フィールドからの予測を廃止す
ることにより、前予測を2つに減らし、1ビットの拡張
で前予測モードを伝送できる。具体的には、オッドサイ
クルで前予測では、前フレームの第1フィールドからの
予測の場合は符号1、前フレームの第2フィールドから
の予測の場合は符号0、又、イーブンサイクルで前予測
では、現フレームの第1フィールドからの予測の場合は
符号1、前フレームの第2フィールドからの予測の場合
は符号0、更に、後予測では、後フレームの第1フィー
ルドからの予測の場合は符号1、後フレームの第2フィ
ールドからの予測の場合は符号0を、拡張ビットとして
従来のマクロブロックタイプに付加すればよい。
【0067】次に当該動きベクトルの符号化器で符号化
された情報を復号化するための復号化器について説明す
る。図11に動きベクトルの復号化器のブロック図を示
す。
【0068】まず入力されるビットストリーム38から
逆可変長符号化器39によって差分化動きベクトル26
と動き予測情報33を解読する。解読された差分化動き
ベクトル信号26と動き補償予測モード信号33は、動
きベクトル用の逆差分化器40に入力される。
【0069】当該動きベクトル用の逆差分化器のブロッ
ク図を図8に示す。全体のデータの流れとしては、現在
入力される差分化動きベクトル26を、動き補償予測モ
ード信号33によりレジスタ群29の中から指定された
レジスタより読み出される動きベクトルの値と加算し、
再構成された動きベクトル35を出力し、そして、当該
再構成された動きベクトル35は、現在、選択参照され
たレジスタに上書きされ、新たに記憶される。
【0070】次にそれぞれのブロックについて詳細に説
明する。レジスタ群29には、動き補償予測時に参照す
る過去フレーム(フィールド)と未来フレーム(フィー
ルド)、それぞれのフレーム(フィールド)枚数の和n
に等しい数のレジスタを用意する。
【0071】例えば、図12に示すように、動き補償時
に過去フィールド1と過去フィールド2そして未来フィ
ールド1と未来フィールド2を参照する場合には、動き
ベクトル記憶用のレジスタは4個用意する。したがっ
て、これら4個のレジスタを用いて、過去フィールド1
を参照する動きベクトルは、レジスタ1に記憶し、過去
フィールド2を参照する動きベクトルは、レジスタ2に
記憶し、未来フィールド1を参照する動きベクトルは、
レジスタ3に記憶し、未来フィールド2を参照する動き
ベクトルは、レジスタ4に記憶し、過去フレーム1を参
照する動きベクトルは、レジスタ1とレジスタ2の両方
に記憶し、未来フレーム1を参照する動きベクトルは、
レジスタ3とレジスタ4の両方に記憶する様にする。
【0072】なお、フレーム構成での予測を行なう場合
は、参照が過去の場合は過去フィールド1と過去フィー
ルド2の両フィールドであり、一方参照が未来の場合は
未来フィールド1と未来フィールド2の両フィールドと
なるので、これら場合には、レジスタは特別には用意せ
ず、フィールド参照用のレジスタで兼用させている。
【0073】しかし、過去フレーム1を参照する動きベ
クトル記憶用のレジスタと未来フレーム1を参照する動
きベクトル記憶用のレジスタを別に持つことも可能であ
る。切替回路32は、入力される動き予測モード信号3
3から現在入力された差分動きベクトル信号26が参照
するフレームまたはフィールドを判断し、それと同一の
フレームまたはフィールドを参照する動きベクトルが記
憶されているレジスタを指定する信号S14を出力し、
レジスタ群29は当該レジスタ指定信号S14を受け
て、指定されたレジスタに記憶されている動きベクトル
信号S12をスイッチ30を通して出力する。
【0074】当該出力動きベクトル信号S12は、必要
に応じ、スケール変換器C28にて切替回路32から出
力されるS15のスケール指示信号Cによりスケール変
換された後、加算回路27に入力され、現在入力された
差分化動きベクトル信号26と加算計算され、かくして
動きベクトル信号35が再構成される。
【0075】ただし、入力された差分化動きベクトル信
号26がフレームを参照している場合は、レジスタ出力
動きベクトル信号としてどのレジスタを参照するか、す
なわち、フィールド1を参照するかフィールド2を参照
するかを予め、決めておく必要がある。また、この場
合、フイールド1とフイールド2との動きベクトルの平
均を採り、動きベクトルとしてもよい。
【0076】本実施例では、この場合、フィールド1を
参照するが、符号器側と同規則であれば、フィールド2
を参照しても問題はない。また、入力された差分化動き
ベクトル信号26が過去フィールド1と過去フィールド
2の両方、または未来フィールド1と未来フィールド2
の両方を参照する場合にも、レジスタ出力動きベクトル
信号としてどのレジスタを参照するか決めておく必要が
ある。本実施例では、前者の場合、過去フィールド1
を、後者の場合、未来フィールド1を参照するようにし
ているが、符号器側と同規則であれば、それぞれ過去フ
ィールド2,未来フィールド2を参照しても問題はな
い。
【0077】一方、現在再構成された動きベクトル信号
35は、必要に応じ、スケール変換器D24にて切替回
路32から出力されるS16のスケール指示信号Dによ
りスケール変換された後、切替回路32から出力される
レジスタ指定信号S14により指定されたレジスタに、
スイッチ31を通して上書きされ、新たに記憶される。
【0078】逆差分化器のリセットは、スライスの先頭
と画像内符号化処理(イントラコーディングモード)さ
れたMBにおいて行なわれ、この時、レジスタ群29の
中のすべてのレジスタはゼロにリセットされる。
【0079】なお、スケール変換器C28とスケール変
換器D24は、フレームを参照する動きベクトルとフィ
ールドを参照する動きベクトル同士を加算する時の空間
的なスケール調整や、参照フィールドまでの時間的な距
離が異なる動きベクトル同士を加算する時の、時間軸的
な原因に基ずくスケール調整に使用されたりする。
【0080】以上のように動きベクトル用の逆差分化器
は構成され、動きベクトルは再構成される。
【0081】以上、実施例により、符号化器側では、動
き補償予測時に参照する動きベクトルを差分化するため
の差分化器が構成でき、当該差分化動きベクトルを可変
長符号化するすることにより、効率良く動きベクトルを
伝送することが可能となる。
【0082】また、復号化器側では、受信情報から差分
化動きベクトルを復号し、さらに逆差分化するための逆
差分化器が構成できることにより、動きベクトルが再構
成できる。
【0083】更に上記の動きベクトルの符号化器および
復号化器は、画像を扱う単位をフレームとした場合とフ
ィールドとした場合とで共通に使用することができるた
め、符号化器および復号化器の構成を簡単化できる。
【0084】
【発明の効果】本発明による動き情報差分化器によれ
ば、動き予測情報(例えば、前方向予測等の予測モード
情報、フレーム又はフイールドの何れを参照画像とした
かの情報、MC−typeの情報等である。)に対応し
て参照画像の動き情報(例えば、動きベクトル)を出力
し、差分動き情報を得るようにしたので、インタレース
信号の符号化時の複雑な動き補償予測に用いられる動き
情報を効率良く符号化し、伝送することができ、差分化
器の構成も簡単化できる。
【0085】また、参照画像がフレームの場合でも、そ
のフレームにおける何れかのフイールド、即ち、第1フ
イールド又は第2フイールドの動き情報を差分に用いる
ことにより、フレームの動き情報用のレジスタを設ける
必要がなく、従って、差分化器をさらに簡単化できる。
【0086】本発明による動き情報逆差分化器によれ
ば、動き予測情報(例えば、前方向予測等の予測モード
情報、フレーム又はフイールドの何れを参照画像とした
かの情報、MC−typeの情報等である。)に対応し
て参照画像の動き情報(例えば、動きベクトル)を出力
し、入力された差分動き情報と参照画像の動き情報との
和分を取り、動き情報を再構成するようにしたので、イ
ンタレース信号の符号化時の複雑な動き補償予測に用い
られる動き情報を効率良く復号化することができ、逆差
分化器の構成も簡単化できる。
【0087】また、参照画像がフレームの場合でも、そ
のフレームにおける何れかのフイールド、即ち、第1フ
イールド又は第2フイールドの動き情報を和分に用いる
ことにより、フレームの動き情報用のレジスタを設ける
必要がなく、従って、逆差分化器をさらに簡単化でき
る。
【図面の簡単な説明】
【図1】動き補償予測の原理について説明する図であ
る。
【図2】MPEG1での動き補償予測の予測モードにつ
いて説明する図である。
【図3】MPEG1での動きベクトルの差分化器のブロ
ック図。
【図4】MPEG1での動きベクトルの差分化器の動作
例である。
【図5】MPEG1での動きベクトルの逆差分化器(差
分化動きベクトルから動きベクトルを再構成するための
回路)のブロック図である。
【図6】フレーム/フィールド適応動き予測を説明する
図である。
【図7】本発明での動きベクトルの差分化器のブロック
図である。
【図8】本発明での動きベクトルの逆差分化器(差分化
動きベクトルから動きベクトルを再構成するための回
路)のブロック図である。
【図9】MPEG1でのデータ構造を説明する図であ
る。
【図10】本発明での動きベクトルの符号化器のブロッ
ク図である。
【図11】本発明での動きベクトルの復号化器のブロッ
ク図である。
【図12】本発明での動きベクトルの差分化器および逆
差分化器の中でのレジスタ群の構成についての例を説明
する図である。
【図13】本発明での動きベクトル差分化器の動作例で
ある。
【図14】本発明の動きベクトル差分化器用いたエンコ
ーダの概略構成を示す図である。
【図15】拡張ビツト付加(自己フレーム内の予測を可
能にした場合)の例(前予測)を説明するための図であ
る。

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 動き補償予測の対象となっているブロツ
    クの動き情報と動き補償予測時に参照したブロツクの動
    き情報との差分を取る動き情報差分化器において、 動き補償予測時に参照される、少なくともフイールドの
    動き情報を異なる領域に記憶しておく記憶手段と、 動き予測情報に基づき、対応する上記参照ブロツクの動
    き情報を出力するように上記記憶手段を制御する切り換
    え手段と、 を備え、 上記動き予測情報は、少なくとも予測の際の参照フレー
    ム又はフイールドに関する情報及び動き補償のタイプを
    表すMC−typeを含むことを特徴とする動き情報差
    分化器。
  2. 【請求項2】 上記記憶手段には、上記動き補償予測時
    に参照するフイールド数分のレジスタからなるレジスタ
    群であって、この各レジスタには対応する参照フイール
    ドのブロツクの動き情報がそれぞれ格納されていること
    を特徴とする請求項1記載の動き情報差分化器。
  3. 【請求項3】 上記MC−typeは、上記ブロツクに
    おけるフレーム構成を単位として動き補償を行うか、フ
    イールド構成を単位として動き補償を行うかを表す情報
    であることを特徴とする請求項2記載の動き情報差分化
    器。
  4. 【請求項4】 上記切り換え手段は、上記動き補償が参
    照画像をフレームとし、上記フレーム構成を単位として
    行われる場合は、参照フレームにおける何れか1のフイ
    ールドの動き情報を出力するように上記記憶手段を制御
    すること、 を特徴とする請求項3記載の動き情報差分化器。
  5. 【請求項5】 動き補償予測の対象となっているブロツ
    クの差分化動き情報と動き補償予測時に参照するブロツ
    クの動き情報との和分を取り、上記対象ブロツクの動き
    情報を再構成するための動き情報逆差分化器において、 動き補償予測時に参照される、少なくともフイールドの
    動き情報を異なる領域に記憶しておく記憶手段と、 動き予測情報に基づき、対応する上記参照ブロツクの動
    き情報を出力するように上記記憶手段を制御する切り換
    え手段と、 を備え、 上記動き予測情報は、少なくとも予測の際の参照フレー
    ム又はフイールドに関する情報及び動き補償のタイプを
    表すMC−typeを含むことを特徴とする動き情報逆
    差分化器。
  6. 【請求項6】 上記記憶手段には、上記動き補償予測時
    に参照するフイールド数分のレジスタからなるレジスタ
    群であって、この各レジスタには対応する参照フイール
    ドのブロツクの動き情報がそれぞれ格納されていること
    を特徴とする請求項5記載の動き情報逆差分化器。
  7. 【請求項7】 上記MC−typeは、上記ブロツクに
    おけるフレーム構成を単位として動き補償を行うか、フ
    イールド構成を単位として動き補償を行うかを表す情報
    であることを特徴とする請求項6記載の動き情報逆差分
    化器。
  8. 【請求項8】 上記切り換え手段は、上記動き補償が参
    照画像をフレームとし、上記フレーム構成を単位として
    行われる場合は、参照フレームにおける何れか1のフイ
    ールドの動き情報を出力するように上記記憶手段を制御
    することを特徴とする請求項7記載の動き情報逆差分化
    器。
JP4286493A 1992-10-26 1992-10-26 動き情報差分化器及び逆差分化器 Pending JPH06141302A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4286493A JPH06141302A (ja) 1992-10-26 1992-10-26 動き情報差分化器及び逆差分化器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4286493A JPH06141302A (ja) 1992-10-26 1992-10-26 動き情報差分化器及び逆差分化器

Publications (1)

Publication Number Publication Date
JPH06141302A true JPH06141302A (ja) 1994-05-20

Family

ID=17705118

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4286493A Pending JPH06141302A (ja) 1992-10-26 1992-10-26 動き情報差分化器及び逆差分化器

Country Status (1)

Country Link
JP (1) JPH06141302A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009290889A (ja) * 2009-08-07 2009-12-10 Ntt Docomo Inc 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
US8155193B2 (en) 2003-05-07 2012-04-10 Ntt Docomo, Inc. Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
JP2012138947A (ja) * 2012-03-12 2012-07-19 Ntt Docomo Inc 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
JP2014068361A (ja) * 2013-11-15 2014-04-17 Ntt Docomo Inc 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
CN111156893A (zh) * 2019-12-27 2020-05-15 深圳市越疆科技有限公司 一种电机运行角度测量方法和系统、关节角度测量系统

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8155193B2 (en) 2003-05-07 2012-04-10 Ntt Docomo, Inc. Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
US8964846B2 (en) 2003-05-07 2015-02-24 Ntt Docomo, Inc. Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
US9225993B2 (en) 2003-05-07 2015-12-29 Ntt Docomo, Inc. Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
US9628813B2 (en) 2003-05-07 2017-04-18 Ntt Docomo, Inc. Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
US9894378B2 (en) 2003-05-07 2018-02-13 Ntt Docomo, Inc. Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
US10205960B2 (en) 2003-05-07 2019-02-12 Ntt Docomo, Inc. Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
JP2009290889A (ja) * 2009-08-07 2009-12-10 Ntt Docomo Inc 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
JP2012138947A (ja) * 2012-03-12 2012-07-19 Ntt Docomo Inc 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
JP2014068361A (ja) * 2013-11-15 2014-04-17 Ntt Docomo Inc 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
CN111156893A (zh) * 2019-12-27 2020-05-15 深圳市越疆科技有限公司 一种电机运行角度测量方法和系统、关节角度测量系统
CN111156893B (zh) * 2019-12-27 2021-08-10 深圳市越疆科技有限公司 一种电机运行角度测量方法和系统、关节角度测量系统

Similar Documents

Publication Publication Date Title
US7356081B1 (en) Bidirectionally predicted pictures or video object planes for efficient and flexible video coding
KR100272812B1 (ko) 비디오 신호 코더
JPH08223577A (ja) 動画像符号化方法及び装置、並びに動画像復号方法及び装置
JP2000270332A (ja) 動画像符号化方法および装置
JP3331351B2 (ja) 画像データ符号化方法及び装置
EP1047270B1 (en) Efficient coding apparatus for picture signal
WO2012098845A1 (ja) 画像符号化方法、画像符号化装置、画像復号方法及び画像復号装置
JP3633204B2 (ja) 信号符号化装置、信号符号化方法、信号記録媒体及び信号伝送方法
JPH0818979A (ja) 画像処理装置
JPH06350995A (ja) 動画像処理方法
JPH06141302A (ja) 動き情報差分化器及び逆差分化器
JP2947103B2 (ja) 動画像符号化装置及び動画像符号化方法
JPH0678289A (ja) 画像信号の高能率符号化、復号化装置及び記録媒体
WO1996033573A1 (en) Device and method for coding moving image
JPH05308628A (ja) 動画像符号化装置
JP2000102017A (ja) 画像符号化装置および画像符号化方式
JPH0698311A (ja) 画像信号の高能率符号化及び復号化装置
JP3240737B2 (ja) 画像信号符号化方法、装置、復号化方法及び装置
KR100242653B1 (ko) 프레임내 부호화방법 및 그 장치
JP3590976B2 (ja) 動画像圧縮装置
JPH0630332A (ja) 動画像の符号化及び復号化装置
JP5946980B1 (ja) 画像復号化方法
JP6181242B2 (ja) 画像復号化方法
JPH05308629A (ja) 動画像符号化方式
JP5951915B2 (ja) 画像復号化方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090530

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090530

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100530

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 7

Free format text: PAYMENT UNTIL: 20100530

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 8

Free format text: PAYMENT UNTIL: 20110530

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110530

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120530

Year of fee payment: 9

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 9

Free format text: PAYMENT UNTIL: 20120530

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130530

Year of fee payment: 10

EXPY Cancellation because of completion of term