JP3257156B2 - 画像信号復号装置 - Google Patents

画像信号復号装置

Info

Publication number
JP3257156B2
JP3257156B2 JP16521093A JP16521093A JP3257156B2 JP 3257156 B2 JP3257156 B2 JP 3257156B2 JP 16521093 A JP16521093 A JP 16521093A JP 16521093 A JP16521093 A JP 16521093A JP 3257156 B2 JP3257156 B2 JP 3257156B2
Authority
JP
Japan
Prior art keywords
block
data
error
index information
reference value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP16521093A
Other languages
English (en)
Other versions
JPH06350982A (ja
Inventor
秀雄 中屋
哲二郎 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP16521093A priority Critical patent/JP3257156B2/ja
Publication of JPH06350982A publication Critical patent/JPH06350982A/ja
Application granted granted Critical
Publication of JP3257156B2 publication Critical patent/JP3257156B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Error Detection And Correction (AREA)
  • Image Processing (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、平均値分離ベク
トル量子化を採用する場合に、受信あるいは再生された
平均値データおよび/またはインデックスがエラーの場
合に、そのエラーを修整するための画像信号復号装置に
関する。
【0002】
【従来の技術】ディジタルビデオ信号を例えば回転ヘッ
ドにより磁気テープに記録するディジタルVTRが知ら
れている。ディジタルビデオ信号の情報量が多いので、
その伝送データ量を圧縮するための高能率符号化が採用
されることが多い。高能率符号化として、1枚の画像を
多数のブロックに細分化し、このブロックを単位として
符号化を行う、ブロック符号化が知られている。ブロッ
ク符号化の一つとして、平均値分離ベクトル量子化が提
案されている。この平均値分離ベクトル量子化は、ブロ
ック内の複数画素データの平均値データと、この平均値
に対する画素データの差分のベクトル量子化出力(すな
わち、インデックス情報)を伝送する符号化方法であ
る。
【0003】再生あるいは伝送過程においては、エラー
によって平均値データまたはインデックス情報が失われ
ることがある。エラー訂正符号化の処理を使用する時に
は、その訂正の能力の範囲内のエラーを訂正することが
できる。しかしながら、エラーである平均値データある
いはインデックス情報を見つけることができても、訂正
不可能なエラーも発生しうる。平均値データあるいはイ
ンデックス情報の少なくとも一つがエラーで失われた場
合には、ブロック全体がエラーであったとして、ブロッ
ク全体を前フレームの画像で置き換えるか、同じフレー
ムの周囲のブロックの画像データを使用した線形補間を
行っていた。
【0004】
【発明が解決しようとする課題】従来のエラー修整方法
は、修整したブロックと周辺ブロックとの境界が目立つ
歪が発生したり、修整したブロックの画像の解像度が劣
化する問題があった。
【0005】従って、この発明の目的は、平均値分離ベ
クトル量子化を採用する場合に、ブロックの境界が目立
つ歪、解像度の劣化が防止された画像信号復号装置を提
供することにある。
【0006】
【課題を解決するための手段】請求項1の発明は、ディ
ジタル画像信号をブロック化し、ブロック内の複数の画
素データの基準値を計算し、基準値に対する複数の画素
データの差分をベクトル量子化することで符号化し、
準値と、ベクトル量子化で発生したインデックス情報と
を含むデータを受信し、受信されたデータ中のインデッ
クス情報に対応した差分を復号し、受信されたデータ中
基準値と復号された差分とに基づいてディジタル画像
信号を復号するようにした画像信号復号装置であって、
注目ブロックの基準値およびインデックス情報のエラー
を検出するエラー検出手段と、基準値がエラーであり、
インデックス情報が正しい場合は、注目ブロックと隣接
するブロック内の画素データとインデックス情報に対応
する差分との差に基づいて、注目ブロックの基準値を推
定し、インデックス情報と推定された基準値とに基づい
て注目ブロック内の正しい画素データを推定するエラー
修整手段とを有することを特徴とする画像信号復号装置
である。
【0007】
【作用】平均値およびインデックス情報の一方がエラー
でその他方がエラーでない場合には、エラーでない情報
を有効に利用する。すなわち、周辺の正しく復号された
ブロックと注目ブロックとの空間的相関を利用して、エ
ラーで失われた平均値またはインデックス情報を推定す
る。この推定された平均値またはインデックス情報を使
用して復号を行うことによって、良好なエラー修整が可
能となる。
【0008】
【実施例】以下、この発明の一実施例について図面を参
照して説明する。図1は、この一実施例、すなわち、デ
ィジタルVTRの信号処理の概略的構成を示す。1aで
示す入力端子からアナログビデオ信号が供給され、A/
D変換器2によって、1サンプルが例えば8ビットにデ
ィジタル化される。このA/D変換器2の出力データあ
るいは入力端子1bからのディジタルビデオ信号がブロ
ック化回路3に供給される。この実施例では、ブロック
化回路3によって1フレームの画像の有効領域が(2×
2)画素、(4×4)画素等の大きさに分割される。
【0009】ブロック化回路3からのブロックの順序に
走査変換されたディジタルビデオ信号がブロック符号化
回路4に供給される。ブロック符号化4は、平均値分離
ベクトル量子化によって、ブロック毎に画像データを圧
縮符号化する。ブロック符号化回路4の前あるいは後で
ディジタルビデオ信号に対してシャフリング処理を行っ
てから符号化を行っても良い。シャフリングは、ブロッ
クの空間的位置をシャッフルするものである。
【0010】図2は、ブロック符号化回路4の一例を示
す。ブロック化回路3からのディジタル画像信号が平均
化回路21および遅延回路22に供給される。遅延回路
22は、平均化処理に要する時間、減算回路23に供給
されるデータを遅延させるものである。平均化回路21
では、ブロック毎に、平均値データMが計算される。こ
の平均値データMが伝送される出力として次段に供給さ
れ、また、減算回路23にも供給される。減算回路23
では、ブロック内の各画素データとそのブロックの平均
値とが減算され、差分データが形成される。この差分デ
ータがベクトル量子化回路24に供給される。ベクトル
量子化は、ブロック内の複数画素データをベクトルとし
て表現し、量子化代表ベクトルの集合の中で、このベク
トルと最も近い量子化代表ベクトルを決定し、その量子
化代表ベクトルを指示するインデックスを伝送する。量
子化代表ベクトルの集合がコードブックであり、各量子
化代表ベクトルが所定ビット長のインデックスによって
識別される。ベクトル量子化回路24からは、インデッ
クス情報Iが発生し、これが伝送される。
【0011】ブロック符号化回路4の出力データ、すな
わち、平均値データおよびインデックス情報がパリティ
発生回路5に供給される。パリティ発生回路5は、エラ
ー訂正符号のパリティを発生する。エラー訂正符号とし
ては、例えばデータのマトリクス状配列の水平方向およ
び垂直方向のそれぞれに対してエラー訂正符号化を行う
積符号を採用することができる。エラー訂正符号化は、
平均値データおよびインデックス情報のエラーを個別に
検出/訂正することができる符号である。符号化データ
およびパリティに対して、シンク(SYNC)ブロック
同期信号およびID信号が付加される。シンクブロック
の連続する記録データがチャンネル符号化回路6に供給
され、直流分を低減させるためのチャンネル符号化の処
理を受ける。
【0012】チャンネル符号化回路6の出力データがビ
ットストリームに変換され、さらに記録アンプ7を介し
て回転ヘッドHに供給され、記録データが磁気テープT
上に斜めのトラックとして記録される。通常、複数の回
転ヘッドが使用されるが、簡単のために、一つのヘッド
のみが図示されている。
【0013】磁気テープTから回転ヘッドHにより取り
出された再生データは、再生アンプ11を介してチャン
ネル復号回路12に供給され、チャンネル符号化の復号
がなされる。チャンネル復号回路12の出力データがエ
ラー訂正回路13に供給され、例えば積符号の復号がさ
れる。エラー訂正回路13から発生する出力データに
は、再生データの他にエラー訂正した後におけるエラー
の有無を示すエラーフラグが含まれる。図中では、エラ
ーフラグの伝送経路が破線で示されている。
【0014】エラー訂正回路13の出力データがブロッ
ク復号回路14に供給される。この復号回路14は、上
述した平均値分離ベクトル量子化の復号を行う。ここ
で、平均値データとインデックス情報の双方にエラーが
無い場合は、通常の復号を行ない、何れか一方にエラー
がある場合には、再生データは、そのままブロック分解
回路15に送られる。記録側において、シャフリング処
理がなされている場合には、その逆のディシャフリング
処理が再生側でなされる。
【0015】ブロック復号回路14の出力データがブロ
ック分解回路15に供給される。ブロック分解回路15
によって、データの順序がブロックの順序からラスター
走査の順序へ戻される。ブロック分解回路15の出力デ
ータがエラー修整回路16に供給される。エラー修整回
路16は、後述のようにエラーを修整する。エラー修整
回路16の出力データがD/A変換器17に供給され、
出力端子18aには、各画素と対応し、ラスター走査の
順序のアナログ復元データが得られる。ディジタルデー
タの出力端子18bがエラー修整回路16に対して接続
されている。
【0016】図3は、上述のエラー修整回路16の動作
の説明に必要な画素データの配列を示し、図4は、ブロ
ック分解回路15およびエラー修整回路16の部分の一
例の構成を示す。図3を参照してこの一実施例のエラー
修整のアルゴリズムについて説明する。図3は、(4×
4)画素のブロックの例であり、ブロック間の境界付近
の復号画素値X1〜X12を含むブロックがエラー修整
の対象としているブロック、すなわち、注目ブロックで
ある。また、この注目ブロックの周辺の正しく復号され
たブロックに含まれ、また、注目ブロックとの境界付近
に位置している復号画素値をY1〜Y16で示す。
【0017】まず、平均値分離ベクトル量子化を使用す
る時には、再生データ中のエラーの条件は、次の(A)
(B)または(C)であり、何れもブロック全体のエラ
ーとなる。 (A)平均値データがエラーで、且つ、インデックス情
報がエラーでない。 (B)平均値データがエラーでなく、且つ、インデック
ス情報がエラーである。 (C)平均値データがエラーで、且つ、インデックス情
報がエラーである。
【0018】(A)の条件(平均値データがエラーで、
インデックス情報が正しい)の時のエラー修整 インデックス情報が正しいので、コードブックを参照す
ることによって、注目ブロックの差分データを復号でき
る。平均値データを推定できれば、各画素の復号値を推
定できる。
【0019】画像には、空間的相関性が存在するので、
隣接する画素の値が非常に似ていることが多い。従っ
て、エラーにより失われた平均値をMで表すと、ブロッ
ク間の境界を挟んで、エラーの生じた注目ブロックと周
辺のエラーでないブロックの間では、隣接する画素値Y
iおよび差分値ΔXiが次のような関係を有するものと
推定できる。 Yi≒ΔXi+M
【0020】従って、ブロックの境界付近のN個の画素
について次の計算を行うことによって、エラーの生じた
平均値を推定することができる。M^は、推定された平
均値を表す。 M^={(Y1−ΔX1)+(Y2−ΔX2)+(Y3−ΔX3)+(Y4− ΔX4)+(Y5−ΔX4)+(Y6−ΔX5)+(Y7−ΔX6)+(Y8− ΔX7)+(Y9−ΔX7)+(Y10−ΔX8)+(Y11−ΔX9)+(Y 12−ΔX10)+(Y13−ΔX10)+(Y14−ΔX11)+(Y15− ΔX12)+(Y16−ΔX1)}/16
【0021】そして、推定平均値M^と正しいインデッ
クス情報を復号することによって得た差分値とから注目
ブロックの各画素の復号値を形成できる。勿論、修整後
に平均値データに付随していたエラーフラグがリセット
される。なお、上述と同様に、注目ブロックの復号値と
周辺の復号値との隣接するもの同士の差分値を合計する
計算をΣ(Yi−Xi)と表現する。
【0022】(B)の条件(すなわち、平均値データが
エラーでなく、インデックス情報がエラーである)の時
のエラー修整 この場合に適用できる一つの方法を先ず説明する。イン
デックス情報Iをmビットとすると、コードブックの代
表量子化ベクトルの数は、2m 個存在する。この代表量
子化ベクトルを総当たりで試してみて、正しい平均値デ
ータとともに、注目ブロックの復号値を計算する。この
復号値の中で、周辺の復号値との差の絶対値の合計を最
小、すなわち、隣接画素との相関が最も強い復号値を生
じさせるインデックス情報を正しいものと推定する。
【0023】上述の総当たり方法は、代表量子化ベクト
ルの数が多いときは、ハードウエアの規模の増大、およ
び処理時間が長くする問題がある。そこで、この一実施
例では、インデックス情報Iに1ビットエラーしか生じ
ないという仮定を導入することによって処理の簡略化を
達成する。すなわち、インデックス情報のmビットの最
上位側から1ビットずつ反転させたm個のインデックス
情報に関して、復号を行ない、その中で隣接画素との相
関が最も強い復号値を生じさせるものを正しいインデッ
クス情報と推定する。
【0024】この(B)の条件の処理において、m個の
インデックス情報をそれぞれ用いて復号した値(X1i
〜Xmi)と周辺の復号値Yiとの差の絶対値和を求め
る処理は、以下の数式で表される。 S1=Σ|(Yi−X1i)| S2=Σ|(Yi−X2i)| S3=Σ|(Yi−X3i)| ・ ・ Sm=Σ|(Yi−Xmi)|
【0025】次に、上述のように求められた差の絶対値
和の中の最小値を検出する。この検出された絶対値和S
jが所定のしきい値THより小の時に、その絶対値和を
生じさせるインデックス情報を正しいものと推定する。
式で表現すると、 TH>Sj={S1、S2、S3、・・・、Sm} である。1ビットのみが反転するという仮定が成り立た
ない場合もあるので、しきい値THより小の場合をイン
デックス情報の推定に成功したものと扱っている。推定
に成功した場合は、インデックス情報のエラーフラグを
リセットする。若し、推定が成功しないならば、次に述
べる(C)の条件と同様に扱う。
【0026】(C)の条件(すなわち、平均値データお
よびインデックス情報の両者がエラーである)の時のエ
ラー修整 この場合および上述のように、インデックス情報の推定
に成功しなかった場合には、注目ブロック全体の補間を
行う必要がある。この方法としては、前フレームの同一
位置のブロックのデータで注目ブロックのデータを置き
換える方法、およびフレーム内でブロック境界の正しい
復号値を使って線形補間(曲面フィッティング)を行う
方法がある。さらに、他の方法として、本願発明者らの
提案にかかわる特願平4−332383号に開示されて
いる、周辺ブロックから動きベクトルを検出し、この動
きベクトルによって前のフレームから正しいブロックを
切り出し、この切り出されたブロックの画像データで補
間を行う、動き補償的な補間方法も利用できる。
【0027】図4に示されるエラー修整回路16は、上
述の条件(A)に関して、修整および復号を行う修整・
復号回路31A、条件(B)に関しての修整および復号
を行う修整・復号回路31B、および条件(C)に関し
ての修整を行う修整回路31Cを含む。エラー修整回路
16に対する入力は、ブロック分解回路15から与えら
れる。ブロック分解回路15では、入力端子32a、3
2bからの復号データおよびそのエラーフラグ、入力端
子33a、33bからの平均値データおよびそのエラー
フラグ、入力端子34a、34bからのインデックス情
報およびそのエラーフラグが供給され、データととも
に、これらの平均値およびエラーフラグがブロック分解
される。ここで、復号データは、正しく復号されたデー
タとともに、エラーフラグで示されるエラーデータ(ま
たはエラーデータと対応するデータブランク期間)を含
んでいる。このエラーデータが修整処理で発生したデー
タに置き換えられて回路31A、31B、31Cから出
力される。そして、セレクタ36が正しい復号データお
よび修整出力を選択的に発生する。
【0028】ブロック分解回路15からの復号データお
よびエラーフラグが遅延回路35、修整・復号回路31
A、修整・復号回路31Bおよび修整回路31Cにそれ
ぞれ供給される。遅延回路35は、タイミングを合わせ
るためのもので、その出力に現れる復号データおよびエ
ラーフラグがセレクタ36に供給される。セレクタ36
には、修整・復号回路31A、31Bおよび修整回路3
1Cの出力データも供給される。セレクタ36により選
択されたデータおよびエラーフラグがフレームメモリ3
7に供給される。フレームメモリ37の出力端子38に
エラー修整されたデータが得られる。
【0029】修整・復号回路31Aおよび31Bに対し
ては、復号データの他に、注目ブロックの平均値データ
およびそのエラーフラグと、インデックス情報およびそ
のエラーフラグとが供給される。修整回路31Cには、
復号データとフレームメモリ37からの前フレームのデ
ータが供給される。例えば修整回路31Cは、平均値デ
ータおよびインデックス情報が共にエラーである注目ブ
ロックに関しては、前フレームの対応するブロックの画
像で補間する処理を行う。上述したように、修整回路3
1Cの処理としては、このエラー修整処理に限定されな
い。
【0030】平均値データおよびインデックス情報のエ
ラーフラグがタイミング合わせ用の遅延回路39を介し
て判断回路40に供給される。判断回路40には、修整
・復号回路31Bの出力に発生するエラーフラグも供給
される。判断回路40は、再生データに関して、上述の
(A)、(B)および(C)の何れの条件が該当するか
を判断する。その結果に基づいてセレクタ36を制御す
る制御信号を形成する。修整・復号回路31Bのエラー
フラグを判断回路40に供給するのは、上述のように、
インデックス情報の推定に成功したかどうかの情報を判
断回路40が必要とするからである。
【0031】なお、エラー修整回路16の構成として
は、図4に示すものに限定されず、種々の変形が可能で
ある。例えば修整復号回路31A、31Bでそれぞれ必
要とされるベクトル量子化の復号回路を共通とすること
ができる。
【0032】
【発明の効果】この発明によれば、平均値データおよび
インデックス情報の何れか一方がエラーにより失われた
注目ブロックに関して、エラーでない他方を活用して注
目ブロックのエラーを修整することができる。従って、
このようなエラーの状態において、注目ブロックを前の
ブロックの画像で置き換える処理を行うのと比して、復
元画像においてブロックの境界が目立つような歪の発生
を防止することができる。
【図面の簡単な説明】
【図1】この発明を適用することができるディジタルV
TRの記録/再生回路の一例のブロック図である。
【図2】この発明の一実施例におけるブロック符号化回
路のブロック図である。
【図3】この発明の一実施例の説明のための画素の配列
を示す略線図である。
【図4】この発明の一実施例におけるエラー修整回路の
ブロック図である。
【符号の説明】
16 エラー修整回路 31A、31B 修整・復号回路 31C 修整回路 40 判断回路

Claims (2)

    (57)【特許請求の範囲】
  1. 【請求項1】 ディジタル画像信号をブロック化し、上
    記ブロック内の複数の画素データの基準値を計算し、上
    基準値に対する上記複数の画素データの差分をベクト
    ル量子化することで符号化し、上記基準値と、上記ベク
    トル量子化で発生したインデックス情報とを含むデータ
    を受信し、受信されたデータ中の上記インデックス情報
    に対応した差分を復号し、受信されたデータ中の上記
    準値と復号された差分とに基づいてディジタル画像信号
    を復号するようにした画像信号復号装置であって、 注目ブロックの基準値およびインデックス情報のエラー
    を検出するエラー検出手段と、 上記基準値がエラーであり、上記インデックス情報が正
    しい場合は、上記注目ブロックと隣接するブロック内の
    画素データと上記インデックス情報に対応する差分との
    差に基づいて、上記注目ブロックの基準値を推定し、上
    記インデックス情報と推定された基準値とに基づいて上
    記注目ブロック内の正しい画素データを推定するエラー
    修整手段とを有することを特徴とする画像信号復号装
    置。
  2. 【請求項2】 ディジタル画像信号をブロック化し、上
    記ブロック内の複数の画素データの基準値を計算し、上
    基準値に対する上記複数の画素データの差分をベクト
    ル量子化することで符号化し、上記基準値と、上記ベク
    トル量子化で発生したインデックス情報とを含むデータ
    を受信し、受信されたデータ中の上記インデックス情報
    に対応した差分を復号し、受信されたデータ中の上記
    準値と復号された差分とに基づいてディジタル画像信号
    を復号するようにした画像信号復号装置であって、 注目ブロックの基準値およびインデックス情報のエラー
    を検出するエラー検出手段と、 上記インデックス情報がエラーであり、上記基準値が正
    しい場合は、上記注目ブロックのインデックス情報の複
    数の候補と上記基準値とに基づいて推定を行うことで、
    上記複数の候補と対応する複数の暫定的復号値を生成
    し、上記複数の暫定的復号値と上記注目ブロックに隣接
    する復号値との相関度をそれぞれ検出し、上記相関度に
    基づいて、上記暫定的復号値から正しい復号値を推定す
    るエラー修整手段とを有することを特徴とする画像信号
    復号装置。
JP16521093A 1993-06-10 1993-06-10 画像信号復号装置 Expired - Lifetime JP3257156B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP16521093A JP3257156B2 (ja) 1993-06-10 1993-06-10 画像信号復号装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP16521093A JP3257156B2 (ja) 1993-06-10 1993-06-10 画像信号復号装置

Publications (2)

Publication Number Publication Date
JPH06350982A JPH06350982A (ja) 1994-12-22
JP3257156B2 true JP3257156B2 (ja) 2002-02-18

Family

ID=15807941

Family Applications (1)

Application Number Title Priority Date Filing Date
JP16521093A Expired - Lifetime JP3257156B2 (ja) 1993-06-10 1993-06-10 画像信号復号装置

Country Status (1)

Country Link
JP (1) JP3257156B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533584B (zh) * 2019-09-03 2023-10-20 深圳市迪威码半导体有限公司 一种图像重构方法、系统及终端设备

Also Published As

Publication number Publication date
JPH06350982A (ja) 1994-12-22

Similar Documents

Publication Publication Date Title
EP0617558B1 (en) Apparatus for concealing errors in data
EP0546865B1 (en) Digital video signal recording/playback apparatus
JPH06205386A (ja) 画像再生装置
JPH0793584B2 (ja) 符号化装置
GB2277655A (en) Drop-out correction using motion vectors
JP3428697B2 (ja) 画像復号化方法
JP2558994B2 (ja) デジタル画像信号の誤り補正方法及び誤り補正装置
JP3257156B2 (ja) 画像信号復号装置
JP3257155B2 (ja) 画像信号復号装置
JPH0799651A (ja) 画像信号再生装置
JP2962329B2 (ja) 画像処理方法
JP3291785B2 (ja) ブロック変換符号化データの伝送装置
JP3282245B2 (ja) ブロック符号化におけるエラー修整装置
JP3627256B2 (ja) ディジタル画像信号の受信/再生装置および方法
JP3270861B2 (ja) ブロック変換符号の復号装置
JPH0133993B2 (ja)
JP3291786B2 (ja) ブロック変換符号化データの伝送装置
JP4552264B2 (ja) エラー修整装置および方法
JP2546066B2 (ja) 直交変換符号化画像データの誤り修正方式
JP3469597B2 (ja) ブロック変換符号の復号装置
JPH06253287A (ja) ブロック変換符号の符号化および復号装置
JP3284681B2 (ja) エラーコンシール装置
JP3257124B2 (ja) ブロック変換符号の復号装置
JPH07274117A (ja) 画像信号再生装置
JP2692083B2 (ja) 高能率符号の復号装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071207

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081207

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091207

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091207

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111207

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111207

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121207

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121207

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131207

Year of fee payment: 12

EXPY Cancellation because of completion of term