JP3057212B2 - 画像データ復号装置 - Google Patents

画像データ復号装置

Info

Publication number
JP3057212B2
JP3057212B2 JP19856191A JP19856191A JP3057212B2 JP 3057212 B2 JP3057212 B2 JP 3057212B2 JP 19856191 A JP19856191 A JP 19856191A JP 19856191 A JP19856191 A JP 19856191A JP 3057212 B2 JP3057212 B2 JP 3057212B2
Authority
JP
Japan
Prior art keywords
picture
image data
data
buffer memory
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP19856191A
Other languages
English (en)
Other versions
JPH0522699A (ja
Inventor
フェルトマン マーク
潤 米満
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP19856191A priority Critical patent/JP3057212B2/ja
Priority to KR1019920011020A priority patent/KR930003083A/ko
Priority to EP92306247A priority patent/EP0522835B1/en
Priority to DE69222240T priority patent/DE69222240T2/de
Priority to US07/911,513 priority patent/US5321508A/en
Publication of JPH0522699A publication Critical patent/JPH0522699A/ja
Application granted granted Critical
Publication of JP3057212B2 publication Critical patent/JP3057212B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/12Improving ICE efficiencies

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は画像データを圧縮してデ
ィスクなどの記録媒体に記録し、これを再生する場合に
用いて好適な画像データ復号装置に関する。
【0002】
【従来の技術】従来画像データを圧縮する場合、各画像
をIピクチャ、PピクチャまたはBピクチャの3つのタ
イプの画像のいずれかに区分するようにしていた。Iピ
クチャ(イントラ符号化画像)は、符号化されるときそ
の画像1枚(1フレーム)の中だけの閉じたデータを用
いるものであり、データ量は多くなるが、これを随所に
挿入配置しておくことにより、ランダムアクセスや高速
再生が可能になる。Pピクチャ(前方予測符号化画像)
は予測画像(差分をとる基準となる画像)として、時間
的に前に位置し、すでに復号化されたIピクチャまたは
Pピクチャを用いるものである。また、Bピクチャ(両
方向予測符号化画像)は予測画像として、時間的に前に
位置し、すでに復号化されたIピクチャまたはPピクチ
ャ、時間的に後に位置し、すでに復号化されたIピクチ
ャまたはPピクチャ、およびその両方から生成された補
間画像の3種類が用いられる。
【0003】例えば図7に示す例においては、番号0乃
至9で示す各画像(ピクチャ)が、I0,B1,B2,P
3,B4,B5,P6,B7,B8,P9のように圧縮されて
いる。ここでIはIピクチャを、PはPピクチャを、B
はBピクチャをそれぞれ表わしている。すなわち、番号
0のピクチャはIピクチャとされ、番号3,6,9のピ
クチャはPピクチャとされ、番号1,2,4,5,7,
8のピクチャはBピクチャとされている。例えばピクチ
ャI0はそれ自身のデータから生成され、ピクチャP3は
時間的に前のピクチャI0から生成され、ピクチャB1は
時間的に前のピクチャI0と時間的に後のピクチャP3か
ら生成されるようになっている。
【0004】図6はこのような圧縮画像データを復号す
る従来の画像データ復号装置(デコーダ)の一例の構成
を示すブロック図である。逆VLC回路1は図示せぬ画
像データ符号化装置(エンコーダ)より供給される画像
データを逆VLC(逆可変長符号化)処理して逆量子化
回路2に出力する。逆量子化回路2は逆VLC処理され
たデータを逆ジグザグスキャンするとともに逆量子化し
て、逆DCT回路3に出力する。逆DCT回路3は入力
されたデータを逆DCT(逆離散コサイン変換)処理し
て加算回路4に出力する。加算回路4にはスイッチ15
により選択された予測画像データがゲート17を介して
入力されており、この予測画像データが逆DCT回路3
の出力データと加算され、復号された画像データが生成
される。
【0005】加算回路4の出力がIピクチャまたはPピ
クチャであるときゲート5が開かれ、スイッチ6を介し
てバッファメモリ7またはバッファメモリ8に供給さ
れ、記憶される。逆VLC回路1には画像データととも
に、動きベクトル、量子化幅、符号化モードなどのデー
タが入力されており、逆VLC回路1はこれらのデータ
に対応してタイミング回路16を制御する。タイミング
回路16は逆VLC回路1の出力に対応して種々のタイ
ミング信号を生成し、ゲート5の他、ゲート17、スイ
ッチ6,9,10,15などを所定の接点の方向に切り
換える。加算回路4の出力がIピクチャまたはPピクチ
ャであるとき、スイッチ9,10は接点a側に切り換え
られている。また、スイッチ6は接点aとbに交互に切
り換えられ、1対のバッファメモリ7と8に加算回路4
より出力されたピクチャ(IピクチャまたはPピクチ
ャ)が交互に記憶されることになる。
【0006】例えば、図7に示すように、I0,B1,B
2,P3,B4,B5,P6,B7,B8,P9の順で配置され
た画像データは、エンコーダにおいて、I0,P3,B
1,B2,P6,B4,B5,P9,B7,B8の順で処理され
る。従って、デコーダ側の逆VLC回路1にもこの順序
でデータが入力される。その結果、例えばピクチャI0
の復号データがバッファメモリ7に記憶されたとする
と、バッファメモリ8にはピクチャP3の復号データが
記憶され、さらにバッファメモリ7のピクチャI0のデ
ータはピクチャP6のデータに更新され、バッファメモ
リ8のピクチャP3のデータはピクチャP9のデータに更
新される。
【0007】ピクチャI0,P3に続いて、ピクチャB1
またはB2のデータが逆DCT回路3より加算回路4に
入力されたとき、バッファメモリ7に記憶されているピ
クチャI0のデータが動き補償回路12において、動き
ベクトルに対応して動き補償された後、補間回路14に
供給される。またバッファメモリ8に記憶されているピ
クチャP3のデータが、動き補償回路13において動き
ベクトルに対応して動き補償された後、補間回路14に
供給される。補間回路14は逆VLC回路1より入力さ
れるデータに対応して動き補償回路12と13からの入
力を所定の割合で合成する。この合成データがスイッチ
15により選択され、その接点bとゲート17を介して
加算回路4に供給される。加算回路4は逆DCT回路3
からのデータとスイッチ15により選択されたデータと
を加算して、ピクチャB1またはB2を復号する。
【0008】ピクチャB1,B2が、前のピクチャI0の
みから復号されるときスイッチ15は接点a側に切り換
えられ、後のピクチャP3のみから復号されるときスイ
ッチ15は接点c側に切り換えられ、それぞれピクチャ
I0またはピクチャP3のデータが加算回路4に供給され
る。
【0009】スイッチ9はスイッチ6と反対側に切り換
えられるようになっている。すなわち、スイッチ6が接
点a側(b側)に切り換えられたときスイッチ9は接点
b側(a側)に切り換えられる。従って、ピクチャI0
がバッファメモリ7に記憶された後、スイッチ6が接点
b側に切り換えられて、ピクチャP3がバッファメモリ
8に記憶されるとき、スイッチ9は接点a側に切り換え
られ、このときスイッチ10は接点a側に切り換えられ
るので、ピクチャI0がバッファメモリ7から読み出さ
れ、スイッチ9,10を介してディスプレイ11に供給
され、表示される。加算回路4よりピクチャB1,B2が
出力されたとき、スイッチ10が接点b側に切り換えら
れるので、ピクチャB1,B2がディスプレイ11に供給
される。次にスイッチ9が接点b側に、スイッチ10が
接点a側に切り換えられて、既にバッファメモリ8に記
憶されているピクチャP3が読み出され、ディスプレイ
11に供給される。
【0010】以下同様にして、各ピクチャが順次出力さ
れ、表示される。
【0011】
【発明が解決しようとする課題】従来の装置において
は、このように、Pピクチャのデータを復号する場合、
1対のバッファメモリの一方に記憶されている画像デー
タを読み出すようにしている。その結果例えば図8に示
すように、ピクチャI0,B1,B2,P3,B4,B5,P
6,B7,B8,P9の順に配置された画像が、山を背景に
して人が坂を登っていく状況の画像であるような場合、
ピクチャP6においてウインドウW1で示した領域の画像
(背景の連峰の画像)を、それより前のピクチャP3か
ら生成しようとすると、ピクチャP3においては、ピク
チャP6のウインドウW1が対応する位置に人が位置して
いるため、そこからウインドウW1の画像(背景の連峰
の画像)を得ることはできない。
【0012】同様に、ピクチャP9においてウインドウ
W2で示した領域の画像(背景の単峰の画像)を、それ
より前のピクチャP6から生成しようとすると、ピクチ
ャP6においては、ピクチャP9のウインドウW2が対応
する位置に人が位置しているため、そこからウインドウ
W2の画像(背景の単峰の画像)を得ることはできな
い。すなわち、従来装置は、より正確な画像を再現する
ことができない。
【0013】すなわち、従来の装置は、1対のバッファ
メモリの他方に記憶されているデータを利用して前方予
測を行なうようにしているため、元の画像を正確に再現
することが困難である課題を有していた。
【0014】本発明はこのような状況に鑑みてなされた
ものであり、より正確に元の画像を再現することができ
るようにするものである。
【0015】
【課題を解決するための手段】本発明の画像データ復号
装置は、復号されたイントラ符号化画像データまたは前
方予測符号化画像データを記憶する1対の記憶手段と、
記憶手段に供給される画像データを少なくとも動き補償
に対応する時間だけ遅延させる遅延手段と、遅延手段に
より遅延された画像データを1対の記憶手段に交互に記
憶させる記憶制御手段と、1対の記憶手段の一方に記憶
されている画像データを利用して、その一方の記憶手段
に新たに記憶する画像データを生成する生成手段とを備
えることを特徴とする。
【0016】実施例においては、上記記憶手段は、バッ
ファメモリ7と8により構成され、遅延手段はバッファ
メモリ21により構成され、記憶制御手段はスイッチ6
により構成され、生成手段は動き補償回路12,13、
補間回路14、スイッチ15、加算回路4などにより構
成されている。
【0017】
【作用】上記構成の画像データ復号装置においては、画
像データが動き補償に対応する分だけバッファメモリ2
1により遅延された後、バッファメモリ7,8に記憶さ
れる。そして、バッファメモリ7(または8)に記憶さ
れている画像データを利用して、バッファメモリ7(ま
たは8)に新たに記憶する画像データが生成される。従
って、動き補償を行ないつつ、長い前方予測ができるよ
うになり、より正確な画像の再現が可能になる。
【0018】
【実施例】図1は本発明の画像データ復号装置の一実施
例の構成を示すブロック図であり、図6における場合と
対応する部分には同一の符号を付してあり、その説明は
繰り返しになるので適宜省略する。本実施例において
は、ゲート5の出力がバッファメモリ21に記憶され、
バッファメモリ21より読出された画像データがスイッ
チ6を介してバッファメモリ7または8に供給されるよ
うになっている。その他の基本的構成は図6における場
合と同様である。但し、タイミング回路16によるスイ
ッチ15等の切り換えのタイミングが図6における場合
と異なっている。
【0019】本実施例における基本的動作は図6におけ
る場合と同様であるが、本実施例においては、図2に示
すように、ピクチャP6を復号するのに、前のピクチャ
P3だけでなく、それよりさらに前のピクチャI0が利用
される。同様に、ピクチャP9を復号するのに、前のピ
クチャP6だけでなく、それよりさらに前のピクチャP3
が利用される。換言すれば、本実施例においては、より
長い前方予測が行なわれる。その他の機能は図6におけ
る場合と同様であるので、次に、このより長い前方予測
の復号処理について説明する。
【0020】上述したように、ピクチャがI0,B1,B
2,P3,B4,B5,P6,B7,B8,P9の順に配置され
ているとき、エンコーダではI0,P3,B1,B2,P
6,B4,B5,P9,B7,B8の順で処理するので、逆V
LC回路1にはこの順番で各ピクチャのデータが動きベ
クトル、量子化幅および予測モード(タイプ情報)とと
もに入力される。このうち、IピクチャとPピクチャに
注目すると、バッファメモリ7にピクチャI0が記憶さ
れた後、バッファメモリ8にはピクチャP3が記憶され
る。次にバッファメモリ7のピクチャI0のデータはピ
クチャP6のデータで書き換えられ、バッファメモリ8
のピクチャP3のデータはピクチャP9のデータで書き換
えられる。
【0021】従来、バッファメモリ7のデータを更新す
るとき、スイッチ6は接点a側に、またスイッチ15は
接点c側(他方のバッファメモリ8側)に、それぞれ切
り換えられていた。しかしながら、本実施例において
は、スイッチ6は接点a側のままであるが、スイッチ1
5は、他方のバッファメモリ8のデータを利用するタイ
ミングにおいては接点c側に切り換えられ、自らのデー
タを利用するタイミングにおいては接点a側(バッファ
メモリ7側)に切り換えられる。同様に、従来、バッフ
ァメモリ8のデータを更新するとき、スイッチ6は接点
b側に、スイッチ15は接点a側(他方のバッファメモ
リ7側)に、それぞれ切り換えられていた。しかしなが
ら、本実施例においては、スイッチ6は接点b側のまま
であるが、スイッチ15は、他方のバッファメモリ7の
データを利用するタイミングにおいては接点a側に切り
換えられ、自らのデータを利用するタイミングにおいて
は接点c側(バッファメモリ8側)に切り換えられる。
【0022】これにより、例えばバッファメモリ8に記
憶されているピクチャP3(1つ前のIまたはPピクチ
ャ)と、バッファメモリ7に記憶されているピクチャI
0(2つ前のIまたはPピクチャ)のデータを利用して
バッファメモリ7に記憶するピクチャP6のデータを生
成したり、バッファメモリ7に記憶されているピクチャ
P6(1つ前のIまたはPピクチャ)と、バッファメモ
リ8に記憶されているピクチャP3(2つ前のIまたは
Pピクチャ)のデータを利用してバッファメモリ8に記
憶するピクチャP9のデータを生成することができる。
【0023】以上のことを、実際の表示画像に即して説
明すると、図5に示すようになる。図8における場合と
同様に、ピクチャI0,B1,B2,P3,B4,B5,P
6,B7,B8,P9の順に配置された画像が、人が坂を登
っていく状況の画像であるようなとき、ピクチャP6に
おいてウインドウW1で示した領域の画像(背景の連峰
の画像)を、それより1つ前のPピクチャP3から生成
しようとすると、ピクチャP3においては、ピクチャP6
のウインドウW1が対応する位置に人が位置しているた
め、そこからウインドウW1の画像(背景の連峰の画
像)を得ることはできない。同様に、ピクチャP9にお
いてウインドウW2で示した領域の画像(背景の単峰の
画像)を、それより1つだけ前のPピクチャP6から生
成しようとすると、ピクチャP6においては、ピクチャ
P9のウインドウW2が対応する位置に人が位置している
ため、そこからウインドウW2の画像(背景の単峰の画
像)を得ることはできない。
【0024】しかしながら、ピクチャP6においてウイ
ンドウW1で示した領域の画像(背景の連峰の画像)は
(バッファメモリ7に新たに記憶させる画像データ
は)、ピクチャP3よりさらに1つだけ前のピクチャI0
(2つ前のPまたはIピクチャ)のウインドウW3の画
像データ(バッファメモリ7に既に記憶されている画像
データ)から生成することができる。同様に、ピクチャ
P9においてウインドウW2で示した領域の画像(背景の
単峰の画像)は(バッファメモリ8に新たに記憶させる
画像データは)、ピクチャP6よりさらに前のピクチャ
P3(2つ前のPまたはIピクチャ)のウインドウW4の
画像データ(バッファメモリ8に既に記憶されている画
像データ)から生成することができる。
【0025】但し、動き補償を行なうには、更新中の画
素データを含む所定の範囲(マクロブロック)の前のピ
クチャの画素データが必要となり、新たな画素データで
更新されてしまった後は、動き補償を行なうことができ
なくなる。そこで、動き補償処理に支障が生じないよう
に、画像データはバッファメモリ21により少なくとも
動き補償処理に対応する時間だけ遅延された後、バッフ
ァメモリ7,8に入力される。
【0026】図3と図4はバッファメモリ7(バッファ
メモリ8においても同様)に記憶されているピクチャR
(例えばピクチャI0)のデータがピクチャN(例えば
ピクチャP6)のデータで書き換えられる場合の状態を
模式的に表わしている(但しこれらの図においては、ス
イッチ6は便宜上省略されている)。いま、図3に示す
ように、バッファメモリ7の最初のピクチャRの画素デ
ータが、図4に示すように、新しいピクチャNの画素デ
ータにより更新されたとすると、太い実線で示されてい
る動き補償を行なう範囲は、図3に示す状態から図4に
示す状態に移動する。すなわちこの範囲の中の処理対象
とされるマクロブロックはバッファメモリ上を左から右
に、そして上から下に順次移動し、これに付随して動き
補償の範囲も順次移動する。この動き補償の範囲の外に
なった画素データが新たな画素データにより順次更新さ
れていく。バッファメモリ21の容量(遅延時間)は、
動きベクトルの範囲および1行(row)当りのマクロ
ブロックの数に対応して設定される。
【0027】
【発明の効果】以上のごとく、本発明の画像データ復号
装置によれば、画像データを少なくとも動き補償に対応
する時間だけ遅延させた後、1対の記憶手段に交互に記
憶させ、そして、1対の記憶手段の一方に記憶されてい
る画像データを利用して、その一方の記憶手段に新たに
記憶する画像データを生成するようにしたので、動き補
償を行ないつつ、長い前方予測ができるようになり、よ
り正確な画像の再現が可能になる。
【図面の簡単な説明】
【図1】本発明の画像データ復号装置の一実施例の構成
を示すブロック図
【図2】図1の実施例における予測動作を説明する図
【図3】図1のバッファメモリ7のデータの書込動作を
説明する図
【図4】図3に続くバッファメモリ7のデータの書込動
作を説明する図
【図5】図1の実施例の予測動作により画像データが生
成される状態を説明する図
【図6】従来の画像データ復号装置の一例の構成を示す
ブロック図
【図7】画像データの符号化と復号化の動作を説明する
【図8】図6の例の予測動作により画像データが生成さ
れる状態を説明する図
【符号の説明】
1 逆VLC回路 2 逆量子化回路 3 逆DCT回路 4 加算回路 5 ゲート回路 7,8 バッファメモリ 11 ディスプレイ 12,13 動き補償回路 14 補間回路 15 スイッチ 16 タイミング回路 17 ゲート回路 21 バッファメモリ

Claims (1)

    (57)【特許請求の範囲】
  1. 【請求項1】 復号されたイントラ符号化画像データま
    たは前方予測符号化画像データを記憶する1対の記憶手
    段と、 前記記憶手段に供給される画像データを少なくとも動き
    補償に対応する時間だけ遅延させる遅延手段と、 前記遅延手段により遅延された画像データを前記1対の
    記憶手段に交互に記憶させる記憶制御手段と、 前記1対の記憶手段の一方に記憶されている画像データ
    を利用して、その一方の記憶手段に新たに記憶する画像
    データを生成する生成手段とを備えることを特徴とする
    画像データ復号装置。
JP19856191A 1991-07-12 1991-07-12 画像データ復号装置 Expired - Lifetime JP3057212B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP19856191A JP3057212B2 (ja) 1991-07-12 1991-07-12 画像データ復号装置
KR1019920011020A KR930003083A (ko) 1991-07-12 1992-06-24 화상데이터 복호장치
EP92306247A EP0522835B1 (en) 1991-07-12 1992-07-08 Decoding apparatus for image signal
DE69222240T DE69222240T2 (de) 1991-07-12 1992-07-08 Vorrichtung zum Decodieren eines Bildsignals
US07/911,513 US5321508A (en) 1991-07-12 1992-07-10 Video image data recording apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP19856191A JP3057212B2 (ja) 1991-07-12 1991-07-12 画像データ復号装置

Publications (2)

Publication Number Publication Date
JPH0522699A JPH0522699A (ja) 1993-01-29
JP3057212B2 true JP3057212B2 (ja) 2000-06-26

Family

ID=16393237

Family Applications (1)

Application Number Title Priority Date Filing Date
JP19856191A Expired - Lifetime JP3057212B2 (ja) 1991-07-12 1991-07-12 画像データ復号装置

Country Status (2)

Country Link
JP (1) JP3057212B2 (ja)
KR (1) KR930003083A (ja)

Also Published As

Publication number Publication date
JPH0522699A (ja) 1993-01-29
KR930003083A (ko) 1993-02-24

Similar Documents

Publication Publication Date Title
JP2570384B2 (ja) 動画像信号の符号化・復号化方式
KR100402188B1 (ko) 압축인코딩된이미지데이터를재생하는방법및장치
JPH10191259A (ja) Mpegビデオの反転再生方法
US5321508A (en) Video image data recording apparatus
JP3676525B2 (ja) 動画像符号化復号化装置及びその方法
JP2000217109A (ja) 動画像再生装置及び再生方法
JP3277374B2 (ja) 画像信号復号化方法及び画像信号復号化装置
JPH08130707A (ja) 画像信号処理装置
JP3061125B2 (ja) Mpeg画像再生装置およびmpeg画像再生方法
JP3057212B2 (ja) 画像データ復号装置
JPH0522700A (ja) 画像データ復号装置
JP3248366B2 (ja) データ再生方法およびデータ再生装置
JPH11205739A (ja) 画像再生方法及び装置
JP3233232B2 (ja) 動画像復号化方法および装置
JP3177366B2 (ja) 高速画像再生システム
JPH08149410A (ja) 画像記録再生装置
KR100373602B1 (ko) 비디오디코더및디코딩방법
JP2723024B2 (ja) 圧縮画像データ再生装置
JP3624457B2 (ja) 画像信号符号化装置及び画像信号復号化装置
JPH0898142A (ja) 画像再生装置
JP2952603B2 (ja) 動画像符号化制御方式
JP2000217120A (ja) 再生装置、方法及びコンピュ―タ読み取り可能な記憶媒体
JP2897056B2 (ja) 動画像符号化制御方式
JPH08130715A (ja) 画像再生装置
JPH08223534A (ja) 画像再生装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20000303

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080421

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090421

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090421

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100421

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100421

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110421

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110421

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120421

Year of fee payment: 12

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120421

Year of fee payment: 12