JPH07255057A - 動画像ブロック判定回路 - Google Patents

動画像ブロック判定回路

Info

Publication number
JPH07255057A
JPH07255057A JP4431494A JP4431494A JPH07255057A JP H07255057 A JPH07255057 A JP H07255057A JP 4431494 A JP4431494 A JP 4431494A JP 4431494 A JP4431494 A JP 4431494A JP H07255057 A JPH07255057 A JP H07255057A
Authority
JP
Japan
Prior art keywords
block
frame
difference
encoding
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4431494A
Other languages
English (en)
Other versions
JP3354691B2 (ja
Inventor
Akihiro Yamori
章弘 屋森
Takashi Hamano
崇 浜野
Kiichi Matsuda
喜一 松田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP4431494A priority Critical patent/JP3354691B2/ja
Publication of JPH07255057A publication Critical patent/JPH07255057A/ja
Application granted granted Critical
Publication of JP3354691B2 publication Critical patent/JP3354691B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【目的】 TV会議やTV電話等における動画像の低ビ
ットレートのフレーム間符号化回路の前段に用いられて
動画像ブロックの有効/無効の判定により符号化を行う
か否かを判定する動画像ブロック判定回路に関し、連続
した複数フレーム間で誤差が累積しないようにする。 【構成】 フレーム間符号化回路30のフレームメモリ
7からの1符号化前のフレームの復号信号と現フレーム
の入力信号とのブロック差分(変化分)が閾値より大き
い場合は、1符号化前のフレームの入力信号と現フレー
ムの入力信号との差分の大きさにより無効と判定して
も、これにかかわらずに該ブロックを有効と判定する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は動画像ブロック判定回路
に関し、特にTV会議やTV電話等における動画像の低
ビットレートのフレーム間符号化回路の前段に用いられ
て動画像ブロックの有効/無効の判定により符号化を行
うか否かを判定する動画像ブロック判定回路に関するも
のである。
【0002】通信メディアを対象とした動画像符号化標
準化であるH.261や超低ビットレートをターゲット
として現在標準化が進められているH.26pにおいて
は1つのフレームはマクロブロックに分割されて、符号
化が行われる。
【0003】図7には周知の一般的な動画像圧縮符号化
回路が示されており、入力動画像信号をフレーム間予測
で差分(変化分)情報のみを符号化回路30で符号化し
て送る。そして、可変長符号化回路31などで更に圧縮
して伝送路に送り出す。
【0004】しかしながら、実際には、背景の微妙な動
きや量子化など演算中の誤差などの原因により背景部分
でも雑音が生じて差分情報が発生している。この発生情
報量は、動画像の圧縮率が大きい時には、視覚的に問題
があるのはもとより、情報量の有効性という面でも大き
な問題である。
【0005】そこで、差分情報は1フレームをいくつか
に分割した、ブロック単位に符号化するとき、画像の静
止部分などでブロック内で全く差分が発生しない場合に
は、そのブロックは無効となり、無効ブロックが続く間
は、その部分には殆ど情報量が無いことになる(例え
ば、TV会議などの画像の背景などでは情報は殆ど発生
しないことになる)ため差分情報は送る必要はない。
【0006】従って、このような動画像ブロックの有効
/無効を判定する回路がフレーム間符号化回路の前段に
必要となる。
【0007】
【従来の技術】上記のように、TV会議などの動画像で
は、あまり重要でない背景の発生情報量を出来るだけ抑
えるために、図8に示すようにフレーム間符号化回路3
0の前段に動画像ブロックの有効/無効を判定する動画
像ブロック判定回路1が設けられている。
【0008】この動画像ブロック判定回路1には、入力
信号における前フレームの動画像ブロックを保持するた
めのフレームメモリ2が接続されており、動画像ブロッ
ク判定回路1では、フレームメモリ2からの前フレーム
の動画像ブロックと現在のフレームの動画像ブロックと
の差分情報を演算する。
【0009】また、フレーム間符号化回路30は、減算
部3と制御部4と符号化部5と加算部6とフレームメモ
リ7とで構成されており、減算部3では入力信号とフレ
ームメモリ7からの前フレームの各動画像ブロックの差
分を演算して制御部4に送られる。
【0010】制御部4では、動画像ブロック判定回路1
での判定結果が有効であるとき、即ち動画像ブロックに
一定の変化が認められる場合(閾値を越えている場合)
には符号化が必要であるため、その判定結果により減算
部3からの差分情報を通過させて符号化部5へ送り符号
化を行って可変長符号化回路(図示せず)等を経て伝送
路へ送り出される。
【0011】また、制御部4は、動画像ブロック判定回
路1では動画像ブロックの変化が認められない場合に
は、その判定結果を受けて減算部3からの差分情報をク
リアして符号化部5へ送らないようにする。
【0012】また、符号化部5での符号化結果は復号化
された後に加算部6に送られ、フレームメモリ7からの
前フレームの動画像ブロックと加算されて予測された動
画像ブロックとしてフレームメモリ7に格納される。
【0013】
【発明が解決しようとする課題】このようにして、ブロ
ックを強制的に無効にする方法は、符号化効率の面で効
果がある。また,この1符号化フレーム前の入力信号と
現フレームの入力信号との変化分を用いた有効/無効判
定回路は、1符号化フレーム前の復号信号との変化分を
用いて判定するよりも、変化分を計算する時に符号化時
の演算誤差などによる雑音がないという点で優れてい
る。
【0014】このような動画像ブロック判定回路は入力
動画像ブロックの変化分で判定しているので、図9(a)
に示すように入力動画像ブロックの画素値が上下してい
る状態では、その復号信号の画素値には特別な影響は無
いが、同図(b) に示すように、入力動画像の僅かな変
化、つまり1符号化フレーム間毎では変化分が閾値以下
であるが、この変化分が何フレーム分も徐々に続くよう
な場合には、符号化している内に復号信号の画素値は図
示のようにその何フレームか前の復号値から誤差が累積
して変化分を判定するための上記の閾値よりも大きくな
るという可能性がある点で問題である。
【0015】従って本発明は、動画像の1フレームを複
数の小ブロックに分割し、その小ブロック毎にフレーム
メモリからの1符号化前のフレームの入力信号と現フレ
ームの入力信号との差分の大きさにより、該ブロックの
有効/無効の判定を行って該差分をフレーム間符号化回
路で符号化するか否かを判定する動画像ブロック判定回
路において、連続した複数フレーム間で誤差が累積しな
いようにすることを目的とする。
【0016】
【課題を解決するための手段】上記の目的を達成するた
め、本発明に係る動画像ブロック判定回路は、図1に原
理的に示すように、フレーム間符号化回路30のフレー
ムメモリ7からの1符号化前のフレームの復号信号と現
フレームの入力信号とのブロック差分(変化分)が閾値
より大きい場合は、1符号化前のフレームの入力信号と
現フレームの入力信号との差分の大きさにより無効と判
定しても、これにかかわらずに該ブロックを有効と判定
することを特徴としたものである。
【0017】この場合、該ブロック及びその周辺ブロッ
クにおける、1符号化前のフレームの復号信号と現フレ
ームの入力信号との差分が閾値より大きい場合は、上記
判定にかかわらずブロックを有効と判定してもよい。
【0018】また、フレーム間の差分として画素値の差
分の絶対値和、または画素値の差分の二乗和を用いるこ
とができる。
【0019】さらに、フレーム間の差分として、1符号
化前の復号画像と現フレームの入力画像による該ブロッ
クの動きベクトルの大きさを用いることもできる。
【0020】さらには、フレーム間の差分として、ブロ
ックの連続無効回数を数えるブロック単位のカウンタを
設け、このカウンタの大きさにより該差分の大きさの判
定を変えることも可能である。
【0021】
【作用】図1に示した本発明に係る動画像ブロック判定
回路1では、動画像ブロックにおける入力画像とフレー
ムメモリ2からの前フレームの動画像ブロックの変化分
により、有効/無効の判定を行った後、更にフレームメ
モリ7からの1符号化フレ─ム前の復号信号と現フレー
ムの入力信号の変化分により、無効と判定されたブロッ
クでも有効と判定するという方法をとる。これにより、
入力画像のわずかづつの変化にも対応できる。
【0022】即ち、動画像ブロック判定回路1では、従
来の場合(図8参照)のように無効ブロックと判定した
場合でも更に1符号化フレーム前の復号信号と現フレー
ムの入力信号との変化分を計算し、該変化分が或る閾値
よりも大きい時には、有効ブロックと判定してフレーム
間符号化回路30での制御部4をスルーとしてフレーム
間符号化を行うことにより、差分を早く収束させること
ができ、入力信号間の変化分による有効/無効判定が原
因で起こる画面上のはりつき現象などを無くすことがで
きる。
【0023】また、上記の如く、フレーム間の変化分と
して動きベクトルの情報等も用いることもできる。
【0024】
【実施例】
(1)図2は図1に示した本発明に係る動画像ブロック
判定回路1をフレーム間符号化回路30と組み合わせた
ときの実施例(1)を示したもので、まず、全体につい
て説明する。
【0025】この実施例では、フレーム間符号化回路3
0は、図1に示した構成の内、符号化部5を符号化器5
aと復号器5bとで構成し、さらに、入力信号とフレー
ムメモリ7からの前フレームの復号信号とから動画像ブ
ロック毎の動きベクトルを検出する動きベクトル検出部
8と、この動きベクトルに従って前フレームの復号信号
を遅延させて減算器3に与える可変遅延部9とを設けて
いる。
【0026】なお、可変長符号化回路31は図7にも示
したフレーム間符号化回路30による符号化結果を更に
伝送路に合わせた圧縮を行うためのものであり、信号多
重化回路32では動きベクトル検出部8で検出された動
きベクトルを可変長符号化回路31での符号化出力に多
重化するものである。
【0027】この実施例全体の動作においては、動画像
ブロック判定回路1において処理する動画像ブロックが
有効と判定されている間は、現フレームの入力信号と、
1符号化フレーム前の復号画像であるフレームメモリ7
からの出力に対し、動きベクトル検出部8で動き補償に
より動きベクトル検出を行った後、予測値と入力信号の
差分を減算器3で取り、予測誤差を求める。
【0028】そして、この予測誤差は制御部4を素通り
して符号化器5aで、予測誤差に対して離散コサイン変
換や量子化を行った後、符号化結果を出力する。符号化
結果は、可変長符号化回路31を介して、可変長符号化
されたデ─タが送信される。
【0029】また、符号化データは送信側で復号器5b
により局所復号され、この局所復号された結果は加算器
6で可変遅延部9を介して与えられるフレームメモリ7
からの予測値と加算され、復号画像としてフレームメモ
リ7に更新される。
【0030】ここで、動画像ブロック判定回路1の実施
例が図3に示されており、この実施例では、動画像ブロ
ック毎に現フレームの入力信号とフレームメモリ2(図
1参照)からの前フレームの入力信号の差分を演算する
減算器11と、この減算器11の出力データの絶対値を
取る絶対値演算部12と、この絶対値を積算する積算器
13と、この積算値を閾値Th1と比較して閾値より大
きいとき(有効ブロックのとき)のみONとなるON/
OFF信号で出力する閾値判定部14と、動画像ブロッ
ク毎に現フレームの入力信号とフレームメモリ7(図1
参照)からの前フレームの復号信号との差分を演算する
減算器15と、この減算器15の出力データの絶対値を
取る絶対値演算部16と、この絶対値を積算する積算器
17と、この積算値を閾値Th2と比較して閾値Th2
より大きいときには閾値判定部14での判定結果が無効
(OFF)でも有効と判定して制御部4(図1参照)に
対して制御信号を出力する閾値判定部18とで構成され
ている。
【0031】この実施例の動作においては、減算器11
と絶対値演算部12と積算器13と閾値判定部14とに
よる構成で図8に示した従来の動画像ブロック判定回路
1の動作を呈しており、動画像ブロックにおける入力画
像とフレームメモリ2からの前フレームの動画像ブロッ
クの変化分により閾値判定部14で閾値Th1を越えた
か否かの判定が行われ、有効/無効の判定結果(ON/
OFF)が閾値判定部18に与えられる。
【0032】一方、更にフレームメモリ7からの1符号
化フレ─ム前の復号信号と現フレームの入力信号の変化
分を減算器15で求め、この絶対値を絶対値演算部16
でとって積算器17で積算した後、この積算値を閾値判
定部18に送る。
【0033】判定部18では、閾値判定部14において
無効(OFF)と判定されたブロックでも、1符号化フ
レ─ム前の復号信号と現フレームの入力信号(輝度信号
または色差信号)の変化分が閾値Th2を越えていれば
有効(ON)と判定し、制御信号を制御部4に送る。
【0034】なお、ブロック内の画素値の差分の二乗和
や、ブロック内の画素値の差分の最大値などの内の、ど
れか1つ以上をそのブロックの変化分とすることもでき
る。また、演算処理量が膨大になるのを防ぐため、変化
分は輝度信号に対してのみ行ってもよい。
【0035】また、判定を行う時に、処理するブロック
だけでなくその周囲のブロックの変化分を用いて、その
ブロックの有効/無効を判断してもよい。この場合も基
本的には同様の回路を用いることができる。
【0036】(2)図4は図1に示した本発明に係る動
画像ブロック判定回路1をフレーム間符号化回路30と
組み合わせたときの実施例(2)を示したもので、図2
と異なっている点は、動きベクトル検出部8において動
画像ブロックの動き補償により求めた動きベクトルの性
質も有効/無効の判定に用いる点である。
【0037】図5に、この場合の有効/無効動画像ブロ
ック判定回路1の一例が示されており、ここでは、図3
の動画像ブロック判定回路1に加えて絶対値演算部19
と積算器20とを新たに用い、動きベクトルの大きさ、
例えば動きベクトルのx成分の絶対値とy成分の絶対値
の和を一つのパラメータとし、該パラメータが別の閾値
Th3を越えたならば、そのブロックが有効の指示を出
するものである。
【0038】したがって、この実施例では、動きベクト
ルを判定の一パラメータに加えたので隣接したブロック
との関係も加味されることとなり、現フレームの入力信
号と前フレームの復号信号との差分が閾値を越えておら
ず無効ブロックと判定されるものであっても、動画像の
動きが閾値を越えているときには有効ブロックとするも
のである。
【0039】図6には別の有効/無効動画像ブロック判
定回路1の実施例が示されており、図5と異なっている
点は、閾値判定部18における閾値を変更するための閾
値変更部21と、閾値判定部18からの制御信号を受け
てカウントし、そのカウント結果により閾値変更部21
を変更するカウンタ22とで構成されている。
【0040】この実施例では、動画像ブロックが、現在
何回連続して無効になっているかをカウンタ22でカウ
ントし、このカウント値が大きい程、そのブロックは長
い間差分情報が送られていないことになる。よって、こ
の値が大きければ、閾値変更部21が閾値判定部18に
設定されている閾値Th2,Th3を変更して無効に選
ばれているブロックを有効に選ばれ易くするものであ
る。
【0041】
【発明の効果】以上述べたように、本発明に係る動画像
ブロック判定回路によれば、フレーム間符号化回路30
のフレームメモリ7からの1符号化前のフレームの復号
信号と現フレームの入力信号とのブロック差分(変化
分)が閾値より大きい場合は、1符号化前のフレームの
入力信号と現フレームの入力信号との差分の大きさによ
り無効と判定しても、これにかかわらずに該ブロックを
有効と判定するように構成したので、動画像の高能率圧
縮符号化におけるTV電話などの背景部分を含む画像に
おいて、背景部分では符号化情報量の発生を抑えたま
ま、画像の僅かな動きにも対応することが出来る。
【図面の簡単な説明】
【図1】本発明に係る動画像ブロック判定回路を含む符
号化回路全体の構成を原理的に示したブロック図であ
る。
【図2】本発明に係る動画像ブロック判定回路を含む符
号化回路全体の構成の実施例(1)を示したブロック図
である。
【図3】図2の実施例(1)に用いる動画像ブロック判
定回路の実施例(1)の構成を示したブロック図であ
る。
【図4】本発明に係る動画像ブロック判定回路を含む符
号化回路全体の構成の実施例(2)を示したブロック図
である。
【図5】図4の実施例(2)に用いる動画像ブロック判
定回路の実施例(2)の構成を示したブロック図であ
る。
【図6】図4の実施例(2)に用いる動画像ブロック判
定回路の実施例(3)の構成を示したブロック図であ
る。
【図7】従来から一般的な符号化回路を概略的に示した
ブロック図である。
【図8】従来の有効/無効動画像ブロック判定回路の一
例を示したブロック図である。
【図9】従来例の問題点を指摘するためのグラフ図であ
る。
【符号の説明】
1 動画像ブロック判定回路 2,7 フレームメモリ 30 フレーム間符号化回路 8 動きベクトル検出部 図中、同一符号は同一又は相当部分を示す。

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 動画像の1フレームを複数の小ブロック
    に分割し、その小ブロック毎にフレームメモリ(2)か
    らの1符号化前のフレームの入力信号と現フレームの入
    力信号との差分の大きさにより、該ブロックの有効/無
    効の判定を行って該差分をフレーム間符号化回路(3
    0)で符号化するか否かを判定する動画像ブロック判定
    回路(1)において、 該フレーム間符号化回路(30)のフレームメモリ
    (7)からの1符号化前のフレームの復号信号と現フレ
    ームの入力信号とのブロック差分が閾値より大きい場合
    は、上記判定にかかわらず該ブロックを有効と判定する
    ことを特徴とした動画像ブロック判定回路。
  2. 【請求項2】 該ブロック及びその周辺ブロックにおけ
    る、1符号化前のフレームの復号信号と現フレームの入
    力信号との差分が閾値より大きい場合は、上記判定にか
    かわらずブロックを有効と判定することを特徴とした請
    求項1に記載の動画像ブロック判定回路。
  3. 【請求項3】 フレーム間の差分として画素値の差分の
    絶対値和を用いることを特徴とした請求項1又は2に記
    載の動画像ブロック判定回路。
  4. 【請求項4】 フレーム間の差分として画素値の差分の
    二乗和を用いることを特徴とした請求項1又は2に記載
    の動画像ブロック判定回路。
  5. 【請求項5】 フレーム間の差分として、1符号化前の
    復号画像と現フレームの入力画像による該ブロックの動
    きベクトルの大きさを用いることを特徴とした請求項1
    又は2に記載の動画像ブロック判定回路。
  6. 【請求項6】 フレーム間の差分として、ブロックの連
    続無効回数を数えるブロック単位のカウンタを設け、こ
    のカウンタの大きさにより該差分の大きさの判定を変え
    ることを特徴とした請求項1又は2に記載の動画像ブロ
    ック判定回路。
JP4431494A 1994-03-15 1994-03-15 動画像ブロック判定回路 Expired - Lifetime JP3354691B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4431494A JP3354691B2 (ja) 1994-03-15 1994-03-15 動画像ブロック判定回路

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4431494A JP3354691B2 (ja) 1994-03-15 1994-03-15 動画像ブロック判定回路

Publications (2)

Publication Number Publication Date
JPH07255057A true JPH07255057A (ja) 1995-10-03
JP3354691B2 JP3354691B2 (ja) 2002-12-09

Family

ID=12688031

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4431494A Expired - Lifetime JP3354691B2 (ja) 1994-03-15 1994-03-15 動画像ブロック判定回路

Country Status (1)

Country Link
JP (1) JP3354691B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7176956B2 (en) * 2004-05-26 2007-02-13 Motorola, Inc. Video enhancement of an avatar
WO2010050089A1 (ja) * 2008-10-29 2010-05-06 パナソニック株式会社 動画像圧縮符号化における符号化処理方法及び符号化処理装置
JP2013157662A (ja) * 2012-01-26 2013-08-15 Nippon Telegr & Teleph Corp <Ntt> 動画像符号化方法,動画像符号化装置および動画像符号化プログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7176956B2 (en) * 2004-05-26 2007-02-13 Motorola, Inc. Video enhancement of an avatar
WO2010050089A1 (ja) * 2008-10-29 2010-05-06 パナソニック株式会社 動画像圧縮符号化における符号化処理方法及び符号化処理装置
US8705628B2 (en) 2008-10-29 2014-04-22 Panasonic Corporation Method and device for compressing moving image
JP2013157662A (ja) * 2012-01-26 2013-08-15 Nippon Telegr & Teleph Corp <Ntt> 動画像符号化方法,動画像符号化装置および動画像符号化プログラム

Also Published As

Publication number Publication date
JP3354691B2 (ja) 2002-12-09

Similar Documents

Publication Publication Date Title
JP3165296B2 (ja) フレーム間符号化処理方式及びフレーム間符号化処理方法及び符号化制御方式
KR20050031674A (ko) 동영상 부호화기에서의 예측 수행 방법 및 장치
KR20000023276A (ko) 프레임 레벨 속도 제어 방법
EP1335606A2 (en) Motion vector estimation with adaptive search range
JP3755155B2 (ja) 画像符号化装置
JPH0865678A (ja) 動画像符号化方式
US7881366B2 (en) Moving picture encoder
KR20040099343A (ko) 프레임 차이들의 히스토그램을 이용하여 비디오내의 장면변경들을 검출하기 위한 방법 및 장치
WO2005115008A1 (ja) 動画像符号化装置
JP5032936B2 (ja) 動画像符号化装置及びその制御方法
JP2001128179A (ja) 動画像符号化装置および方法
JP2009111479A (ja) 動画像圧縮符号化装置
WO2003056838A1 (en) Moving picture compression/coding apparatus and motion vector detection method
JPH07255057A (ja) 動画像ブロック判定回路
JPH0832969A (ja) 動きベクトル検出装置
JP4107544B2 (ja) 画像信号の再符号化装置
JP2005303555A (ja) 動画像符号化装置および動画像符号化方法
JP2897082B2 (ja) 動き補償可変長符号化方式
JP3074115B2 (ja) 画像伝送装置
JP2000032468A (ja) 画像符号化方法および動き補償モード選択プログラムを記録した記録媒体
JPH0984024A (ja) 動画像信号の符号化装置
JPS61164390A (ja) 動画像信号のフレ−ム間、フレ−ム内適応予測符号化装置
KR100744435B1 (ko) 고속 동영상 압축을 위한 dct 및 양자화 과정 생략 방법
JP2001094996A (ja) ブロック歪低減方法及びブロック歪低減装置
JP2004297696A (ja) 映像信号符号化装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20020917

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080927

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080927

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090927

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090927

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100927

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100927

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110927

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120927

Year of fee payment: 10