JPH05111012A - 動画像符号化装置 - Google Patents

動画像符号化装置

Info

Publication number
JPH05111012A
JPH05111012A JP29831791A JP29831791A JPH05111012A JP H05111012 A JPH05111012 A JP H05111012A JP 29831791 A JP29831791 A JP 29831791A JP 29831791 A JP29831791 A JP 29831791A JP H05111012 A JPH05111012 A JP H05111012A
Authority
JP
Japan
Prior art keywords
picture
coding
step width
quantization step
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP29831791A
Other languages
English (en)
Other versions
JP3187097B2 (ja
Inventor
Yoshihiro Kikuchi
義浩 菊池
Tadahiro Oku
忠宏 奥
Tadaaki Masuda
忠昭 増田
Toshinori Otaka
敏則 尾高
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP29831791A priority Critical patent/JP3187097B2/ja
Priority to US07/890,705 priority patent/US5317397A/en
Publication of JPH05111012A publication Critical patent/JPH05111012A/ja
Priority to US08/156,709 priority patent/US5424779A/en
Priority to US08/197,862 priority patent/US5467136A/en
Priority to US08/295,421 priority patent/US5541661A/en
Priority to US08/430,366 priority patent/US5647049A/en
Priority to US08/626,922 priority patent/US5754231A/en
Priority to US08/626,969 priority patent/US5742344A/en
Priority to US09/054,403 priority patent/US6016162A/en
Priority to US09/095,722 priority patent/US6005627A/en
Priority to US09/095,712 priority patent/US5986713A/en
Application granted granted Critical
Publication of JP3187097B2 publication Critical patent/JP3187097B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【目的】Iピクチャ、PピクチャおよびBピクチャの量
子化ステップ幅の比を最適値に近い値にして符号化効率
を効果的に向上させることできる動画像符号化装置を提
供すること。 【構成】フレームまたはフィールド単位で入力される動
画像信号を複数の異なる予測符号化方式を選択的に用い
て予測符号化し量子化した後、可変長符号化を行う動画
像符号化装置において、符号化されたフレームまたはフ
ィールドの量子化ステップ幅および発生符号量を記憶し
発生符号量と相関を持つ評価量であるアクティビティを
計算するアクティビティ計算回路116と、量子化ステ
ップ幅と発生符号量および評価量を基に各フレームまた
はフィールドに対する配分符号量および量子化ステップ
幅の初期値を決定する符号化制御部117とを有する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は動画像符号化装置に係
り、特にフレーム内符号化と動き補償予測符号化を組み
合わせた符号化方式の動画像符号化装置における符号化
レートの制御に関する。
【0002】
【従来の技術】ビデオ信号などの動画像の高能率符号技
術として、フレームまたはフィールド内符号化と、前方
および後方のフレームまたはフィールドを用いた動き補
償予測符号化を組み合わせた符号化方式が知られてい
る。このような動画像符号化装置では、発生符号量を一
定値以下に抑えるために、符号化レートをなんらかの方
法で制御する必要がある。
【0003】図9を参照して、従来の符号化レート制御
方式を説明する。これは仮想的なバッファを用いた符号
化レート制御方式であり、符号化レートの制御は量子化
ステップ幅を変えることによって行われる。符号化装置
900から発生された符号列902は、一時的にバッフ
ァ901に蓄えられ、画面の中の固定の大きさの領域
(以下、スライス)の符号化が終了する毎に、一定量N
X ビットずつ取り出される。そして、このときのバッフ
ァ占有量の大きさを監視し、バッファ占有量が設定値よ
り多いときは量子化ステップ幅904を大きくして発生
符号量を抑え、バッファ占有量が少ないときは量子化ス
テップ幅904を小さくして発生符号量が多くなるよう
制御を行う。量子化ステップ幅QSはバッファ占有量B
Cと次式のような関係にある。
【0004】 QS=1+31・BC/BCY (BCY:バッファ容量)すなわち、バッファ占有量が
0の時には量子化ステップ幅を最小の値1とし、バッフ
ァ占有量がバッファ容量いっぱいの時には、量子化ステ
ップ幅を最大の値31とし、その間の時はバッファ占有
量の0から最大値までを量子化ステップ幅の1から31
までに均等に割り付けるようになっている。但し、例外
的な処理として、もしバッファ占有量が0以下の所謂バ
ッファアンダーフローになった場合は、バッファ占有量
を0にし、量子化ステップ幅は最小の値1にする。ま
た、バッファ占有量がバッファ容量を越える所謂バッフ
ァオーバーフローとなった場合には、バッファ占有量を
バッファ容量と等しくし、量子化ステップ幅を最大の値
31にする。初期状態においてはバッファ容量はバッフ
ァ容量の半分の値に設定されている。
【0005】スライス毎にバッファから取り出すビット
数NX は、各ピクチャ(フレームまたはフィールド)毎
の予測方式によって異なった値を持つ。ピクチャ内の予
測を用いた符号化のみを行うピクチャ(以下、Iピクチ
ャ)においてNIビット、ピクチャ内と前方のピクチャ
からの予測を行うピクチャ(以下、Pピクチャ)におい
てはNPビット、ピクチャ内と前方および後方のピクチ
ャからの予測を行うピクチャ(以下、Bピクチャ)にお
いてはNBビットが取り出される。
【0006】NI,NP,NBは、NI:NP:NBの
比が既に符号化されている中で最後のI,P,Bピクチ
ャの発生符号量の比となるようにピクチャ単位に更新す
る。例えば符号化レートがRビット/秒で最後に符号化
したI,P,Bピクチャの発生符号量がそれぞれGI,
GP,GBビット、1秒中のI,P,Bピクチャの枚数
がそれぞれ2枚,8枚,20枚、そしてピクチャ内のス
ライスの数がNM(NUM-SLICE) ならば、NI,NP,N
Bを次のように更新する。
【0007】 NI=GI*R/G/NM NP=GP*R/G/NM NB=GB*R/G/NM 但し、G=2*GI+8*GP+20*GBである。
【0008】以上述べたレート制御方式は、次のような
問題点がある。
【0009】(1)一般に、Iピクチャ,Pピクチャ,
Bピクチャの量子化ステップ幅は、ある比率1:αQ0
:αQのときに符号化効率が最も高くなることが知ら
れている。従って各ピクチャの配分符号量は、量子化ス
テップ幅がこの比になるように決定することが望まし
い。
【0010】しかし、従来のレート制御ではこのような
ことは考慮されておらず、I,P,Bピクチャにおける
バッファから取り出すビット数NI,NP,NBを既に
符号化したピクチャの発生符号量に比例した値とするい
う簡易的な方法が用いられている。従って、量子化ステ
ップ幅が上記のような最適な比にならず、高い符号化効
率が得られない。
【0011】(2)量子化ステップ幅はバッファ占有量
に比例した値に設定されるため、発生符号量の少しの変
動に対しても過敏に制御され、スライス毎に大きく変化
してしまうため、画質の劣化を生じる可能性がある。
【0012】
【発明が解決しようとする課題】上述のように、従来の
仮想バッファを用いたレート制御方式では、I,P,B
ピクチャに対する符号量割り当てが最適化されないため
に、高い符号化効率が得られず、またスライス毎に量子
化ステップ幅が大きく変動して画質劣化を生じる可能性
があるという問題があった。
【0013】本発明の目的は、Iピクチャ、Pピクチャ
およびBピクチャの量子化ステップ幅の比を最適値に近
い値にして符号化効率を効果的に向上させることができ
る動画像符号化装置を提供することにある。
【0014】本発明の他の目的は、スライス毎に量子化
ステップ幅を大きく変化させることなくフレームまたは
フィールド単位の発生符号量が設定符号量となるような
制御が行われる。
【0015】
【課題を解決するための手段】上記の課題を解決するた
め、本発明は第1にフレームまたはフィールド単位で入
力される動画像信号を複数の異なる予測符号化方式を選
択的に用いて予測符号化し量子化した後、可変長符号化
を行う動画像符号化装置において、符号化されたフレー
ムまたはフィールドの量子化ステップ幅および発生符号
量を記憶する記憶手段と、前記発生符号量と相関を持つ
所定の評価量を計算する計算手段と、前記量子化ステッ
プ幅と発生符号量および評価量を基に各フレームまたは
フィールドに対する配分符号量および量子化ステップ幅
の初期値を決定する手段とを具備することを特徴とす
る。
【0016】本発明は、第2にフレームまたはフィール
ド単位で入力される動画像信号を予測符号化し量子化し
た後、可変長符号化を行う動画像符号化装置において、
可変長符号化により発生した符号列を蓄える仮想バッフ
ァと、この仮想バッファから一定の符号化対象領域毎に
符号列を取り出す手段と、仮想バッファの占有量を基に
量子化ステップ幅を変更する手段と、仮想バッファから
の符号列取り出し量を符号化対象領域の発生符号量と相
関を持つ所定の評価量を基に決定する手段とを具備する
ことを特徴とする。
【0017】本発明は、第3にフレームまたはフィール
ド単位で入力される動画像信号を予測符号化し量子化し
た後、可変長符号化を行う動画像符号化装置において、
可変長符号化により発生した符号列を蓄える仮想バッフ
ァと、この仮想バッファから一定の符号化対象領域毎に
符号列を取り出す手段と、仮想バッファの占有量を監視
する監視手段と、この手段により監視された占有量が第
1の閾値を越えかつ前回の監視時の占有量を上回ってい
る場合には量子化ステップ幅を大きくし、占有量が第2
の閾値を下回りかつ前回の監視時の前記占有量を下回っ
ている場合には量子化ステップ幅を小さくする手段とを
具備することを特徴とする。
【0018】
【作用】本発明においては、既に符号化したフレームま
たはフィールドのステップ幅、発生符号量、およびこれ
から符号化するフレームまたはフィールドと過去に符号
化したフレームまたはフィールドの発生符号量と相関を
持つ評価量を基に各フレームまたはフィールドに対する
配分符号量とステップ幅の初期値が決定される。従っ
て、異なる予測符号化方式を用いるフレームまたはフィ
ールドの量子化ステップ幅の比が最適値となるように、
配分符号量とステップ幅の初期値を設定することが可能
であり、これにより符号化効率が著しく向上する。
【0019】また、本発明では各フレームまたはフィー
ルド内で仮想バッファを用いて量子化ステップ幅の制御
を行う際に、仮想バッファから取り出す量を発生符号量
と大きな相関を持つ評価量(アクティビティという)を
基に決定することで、ステップ幅の変更の条件が従来法
に比べ制限される。このため、量子化ステップ幅が大き
く変化し過ぎることによる画質劣化を伴うことなく、発
生符号量が設定した値に制御される。
【0020】さらに、本発明では仮想バッファの占有量
が第1の閾値を越えかつ前回の監視時の占有量を上回っ
ている場合には量子化ステップ幅を大きくし、占有量が
第2の閾値を下回りかつ前回の監視時の前記占有量を下
回っている場合には量子化ステップ幅を小さくすること
で、同様にステップ幅の変更の条件が従来法に比べ制限
され、量子化ステップ幅が大きく変化し過ぎることによ
る画質劣化を伴うことなく、発生符号量が設定した値に
制御される。
【0021】
【実施例】以下、図面を参照して本発明の実施例を詳細
に説明する。
【0022】図1は、本発明の一実施例によるレート制
御法を用いた動画像符号化装置のブロック図である。本
実施例は、MPEG1のシミュレーションモデルである
SM3のような符号化方式に本発明を適用した例であ
り、符号化のアルゴリズムは基本的に画像をフィールド
(以下、ピクチャ)単位に動き補償適応予測+DCT符
号化を行うものであり、図2、図3のようにピクチャ内
の符号化と前方および後方のピクチャを用いた動き補償
予測符号化を切り替えて用いるものである。
【0023】符号化単位は、SM3と同様に、下位から
ブロック、マクロブロック、スライス、ピクチャ、がグ
ループオブピクチャおよびシーケンスの順に階層化され
る。ブロックは8×8画素よりなり、DCTはこのブロ
ック単位で行われる。マクロブロックはYブロック2個
と、CrブロックおよびCbブロック各1個の計4ブロ
ックよりなり、動き補償および各符号化モードの選択
は、このマクロブロック単位で行われる。グループオブ
ピクチャ(GOP)は、次のように構成される。ピクチ
ャはSM3と同様に予測モードとして許されるマクロブ
ロック毎のモードの種類によって大きくI,P,Bの各
ピクチャに分けられる。モードとしては、フィールド内
予測(Intra)、前方予測、後方予測および両方向
内挿予測の4モードがある(詳細は後述)。これらのう
ちどの予測モードを使用できるかにより、表1に示すよ
うにピクチャの種類がI,P,Bの3通りに分類され
る。
【0024】本実施例では、符号化ピクチャフォーマッ
トとしてインタレースフォーマットを採用しており、同
じ種類のピクチャでもGOP(グループオブピクチャ)
内での位置により予測方法等が異なるため、ピクチャは
さらに細かく分類される。図2に、GOPの構成と各ピ
クチャがどのピクチャから予測されるかを示す。同図に
示されるように、GOPはランダムアクセスおよび特殊
再生用にエントリポイントとして周期的に設けられたI
ピクチャに先行するB0 ピクチャから始まり、次のIピ
クチャの前にあるP2 で終わるピクチャの組によって定
義される。Iピクチャは偶数フィールドのみに現われ
る。また、各ピクチャがどのピクチャからどのように予
測されるかを表1および図3に示した。
【0025】
【表1】 予測方法には偶数フィールドのみから予測するフィール
ド間予測と、偶/奇各1フィールドずつから適応的に予
測を行なうフィールド間/フレーム間適応予測の二通り
がある。図3で矢印は、フィールド間予測に行なうこと
を示し、また2本の線が1本の矢印に統合されている記
号は、フィールド間/フレーム間適応予測を行なうこと
を示している。また、1GOP内での各ピクチャの符号
化順序は図2(b)に示される通りである。
【0026】以上の点を踏まえて、図1に示す動画像符
号化装置を説明する。
【0027】図1において、入力端子100にはインタ
ーレースされた動画像信号が入力される。この入力動画
像信号は、8枚分のフィールドメモリ101に連続した
8フィールド分蓄えられる。フレームメモリ101内の
動画像信号は第1の動きベクトル検出回路110に供給
され、原動画像によるテレスコーピックサーチにより動
き補償の第1段階での動きベクトル検出が1画素精度で
行われる。
【0028】次に、動き補償の第2段階での前処理とし
て、局部復号ループ内のフィールドメモリ108に蓄え
られた局部復号信号を用いて、動きベクトル検出回路1
10で原画像を用いて求められた動きベクトルをその回
りの範囲を全探索することにより、リファインする。
【0029】次に、フィールドメモリ108とフィール
ド間/フレーム間適応予測回路109および第2の動き
ベクトル検出回路111において、局部復号信号を用い
た1/2画素精度の動き補償の第2の段階での動きベク
トル検出が行われ、予測回路109により予測信号が生
成される。この予測信号は減算器102に入力されてフ
ィールドメモリ101からの動画像信号との差がとら
れ、この差が予測誤差信号が出力される。
【0030】この予測誤差信号はDCT回路103によ
り離散コサイン変換され、DCT係数データが得られ
る。このDCT係数データは量子化回路104で量子化
され適応スキャンされた後、2次元可変長符号化回路1
12を経てマルチプレクサ114に入力される。量子化
後のDCT係数データは、逆量子化回路105および逆
DCT回路106を経て局部復号され、I,Pピクチャ
のみがフィールドメモリ108に書きこまれる。フィー
ルドメモリ108の容量は、適応予測に必要な4フィル
ード分とされる。
【0031】マルチプレクサ114では、DCT係数デ
ータ、第2の動きベクトル検出回路111からの動きベ
クトルおよび符号化制御部117からのマクロブロック
タイプやステップ幅等の付加情報が多重化される。マル
チプレクサ114で多重化された情報は、バッファ11
5を経て一定の伝送レートとされ、例えばVTR等の蓄
積系(記録媒体)へ出力される。
【0032】符号化制御部117においては、バッファ
115でのバッファ量と、アクティビティ計算回路11
6で計算されたマクロブロック内アクティビティ(Iピ
クチャ)または直前の同モードの量子化前の信号のマク
ロブロック内アクティビティ(P,Bピクチャ)を使っ
て、量子化回路104での量子化ステップ幅を制御する
ことにより、レート制御を行う。
【0033】次に、本実施例のレート制御と符号化のフ
ローを図4および図5に示す。レート制御は、次のよう
な3階層で行われる。
【0034】(1)Iピクチャから次のIピクチャの1
つ前のB3ピクチャまでのNピクチャの符号量割り当て (2)各ピクチャに対する符号量割当とその更新 (3)仮想バッファを用いたピクチャ内の量子化ステッ
プ幅の制御 本実施例では、上述のようにアクティビティ計算回路1
16で計算されたアクティビティと呼ばれる評価量を計
算し、これをレート制御に用いている。Iピクチャのア
クティビティは、各画素値からブロック内の平均値を引
き去った値の絶対値の総和である。他のピクチャのアク
ティビティは、減算器102およびDCT回路103を
経て得られる動き補償適応予測誤差信号のDCT係数の
絶対値の総和である。Iピクチャのアクティビティは、
符号化に先立って1フィールド先読みして計算する。他
のピクチャは、符号化に際してアクティビティを計算
し、レート制御には直前に符号化した同じタイプのピク
チャのアクティビティを用いる。
【0035】以下、上述したレート制御の手順(1)〜
(3)について詳細に説明する。
【0036】 (1)Nピクチャ単位の符号量割り当て(図4のS1) Iピクチャから次のIピクチャの1つ前のBピクチャま
でのNピクチャの符号量が固定の値CAG(constant-a
llocate-gop )に近づくように、符号量制御を行う。こ
れによる発生符号量の過不足分は、図6に示すように次
のNピクチャの割当符号量に繰り越される。Nピクチャ
符号化終了時に、次式(1) に示す割り当て符号量ABG
(allocated-bits-gop)と、発生した符号量GBG(ge
nerated-bits-gop)の差LOBG(left-over-bits-go
p)を計算する。 LOBG=ABG−GBG (1) そして、次のNピクチャには次式(2) に示す固定の割当
量CAGと符号量の過不足分LOBGを合わせた符号量
が割り当てられる。 ABG=CAG+LOBG (2) (2)各ピクチャへの符号量割り当て 各ピクチャの割り当て符号量は、前記の条件を満たすよ
うに、次の(I),(II)のような方針で決定する。 (I)I,P1,P2,Bピクチャの量子化ステップ幅
Q・I,Q・P,Q・Bの比を次式(3) のようにした時
に符号化効率が良く、画質劣化も生じない。
【0037】 Q・I:Q・P:Q・B=1:αQ0 :αQ (3) 但し、αQ0 ,αQは定数である。ここで、量子化ステ
ップ幅が式(3) の比となるように、各ピクチャの符号量
の配分比を更新していく。
【0038】(II)Nピクチャ内で既に符号化されたピ
クチャの余剰ビットはNピクチャ内でまだ符号化されて
いないピクチャの符号量割り当てに繰り越し、これが
(I)で述べた比で分配されるように割り当て符号量を
ピクチャ毎に決定する。
【0039】以下に具体的な符号量割当ての手順を説明
する。 (2−1) Iピクチャへの符号量割り当て(図4のS
3) シーケンス内の最初のIピクチャの割当符号量AB・I
(allocate-bits-I )は、図4のS2で計算されたIピ
クチャのアクティビティA・I(activity-I)を基に、
発生符号量が多くなり過ぎず、かつIピクチャの量子化
ステップ幅がPピクチャの量子化ステップ幅に比べて極
端に小さくならないように定められた次式(4) によって
決める。
【0040】 AB・I=(C1*A・I+C2)*CAG (4) (C1,C2:定数)他のIピクチャの配分符号量は、
Iピクチャの符号化の直前に決定する。直前のIピクチ
ャの発生符号量をアクティビティで補正したものを基本
として、直前のIピクチャの平均量子化ステップ幅と、
直前のP1ピクチャとP2ピクチャの平均量子化ステッ
プ幅を比較し、Iピクチャの量子化ステップ幅の方が大
きい場合にはIピクチャへの割当符号量を大きくし、逆
の場合にはIピクチャの配分符号量を小さくするよう
に、次式(5) によって決定する。
【0041】 AQP・P12=(AQP・P1+AQP・P2)/2; DQ・I・P12=AQP・I−AQP・P12; if(DQ・I・P12≧1) AB・I=GBP・I ×AQP・I/(AQP・I−f5(DQ・I・P12)) ×A・I/AP・I・C5; else if (DQ・I・P12≦2) AB・I=GBP・I ×AQP・I/(AQP・I+f6(DQ・I・P12)) ×A・I/AP・I×C6; else AB・I=GBP・I ×AP・I/A・I (5) 但し、DQ(difference qscale )は量子化ステップ幅
の差、AQP(averaged qscale previans)は直前の平
均量子化ステップ幅、GBP(generated bitsqrevious
)は直前の発生符号量、AQP(averaged qscale pre
vians)は直前のアクティビティをそれぞれ表わす。C
5は1以上の定数、C6は1以下の定数であり、またf
5,f6はIピクチャとP1,P2ピクチャの量子化ス
テップ幅のずれDQ・I・P12をパラメータとする関数
であり、例えば次式(6) のように定める。 f5(DQ・I・P12)= max(1,|DQ・I・P12|) f6(DQ・I・P12)= max(2,|DQ・I・P12|) (6) Iピクチャの配分符号量を以上のように更新していくこ
とにより、IピクチャとP1,P2ピクチャの量子化ス
テップ幅の比は最適な値に近づいていくため、符号化効
率が良い。
【0042】以上のようにして決めた割り当て符号量が
CAGの23%を越える場合には、この値に抑える。す
なわち、 if(AB・I>CAG×0.23) AB・I=CAG×0.23; (7) (2−2) P0ピクチャへの符号量割り当て P0ピクチャに対してはあらかじめ割り当て符号量は定
めない。但し、符号量がGOPの割り当て符号量の25
%を越えないように後述のようにピクチャ内のレート制
御によって制限する。
【0043】(2−3) P1,P2,Bピクチャへの
符号量割り当て(図4のS8,S10、図5のS12,
S14,S16,S18) P1,P2およびBピクチャの割り当て符号量は、各ピ
クチャの符号化の直前に、P1,P2,Bピクチャの配
分符号量ARの比がAR・P1:AR・P2:AR・B
となり、かつNピクチャの符号量が割り当て符号量と一
致するように、すなわち、 RBG=ABG−GBG=AR・P1×RN・P1 +AR・P2×RN・P2+AR・B×RN・B (8) となるように決める。但し、GBG(generated-bits-g
op)はNピクチャ内でこれまでに発生した符号量、RN
(residual-num),P1,RN・P2,RN・Bはそれ
ぞれのNピクチャ内でまだ符号化されていないP1,P
2,Bピクチャの数である。これを満たす発生符号量
は、次式 (9)〜(10)で計算される。
【0044】 AB・P1=AR・P1×RBG/(AR・P1×RN・P1 +AR・P2×RN・P2+AR・B×RN・B) (9) AB・P2=AR・P2×RBG/(AR・P1×RN・P1 +AR・P2×RN・P2+AR・B×RN・B) (10) AB・B =AR・B×RBG/(AR・P1×RN・P1 +AR・R2×RN・P2+AR・B×RN・B) (11) (2−4) P1,P2,Bピクチャの配分符号量の比
の更新 P1,P2,Bピクチャ間の配分符号量の比は、シーケ
ンスの最初はある初期値に設定されている。そして、P
1ピクチャの符号化の直前に、以下に述べるように更新
する。
【0045】(2−4−1) P1ピクチャとP2ピク
チャの配分符号量の比の更新 P1ピクチャとP2ピクチャを同じ量子化ステップ幅で
量子化したときのアクティビティの比と発生符号量の比
には、次の関係がある。
【0046】 GB・P2/GB・P1=C3×A・P2/A・P1−C4 (12) (C3,C4:定数)この関係を用いて、P1ピクチャ
とP2ピクチャの配分符号量比を次のようにする。
【0047】 AR・P2/AR・P1=C3×A・P2/A・P1−C4 (13) 以上のような更新を行うことにより、P1ピクチャとP
2ピクチャの量子化ステップ幅はほぼ等しくなり、量子
化ステップ幅が大きく異なることによる画質劣化を抑え
ることができる。
【0048】(2−4−2) P1ピクチャとBピクチ
ャの配分符号量の比の更新 図7のように、P1ピクチャとB0,B1,B2,B3
ピクチャの中で量子化ステップ幅が1:αQとなってい
るピクチャに重みを付けて発生符号量の平均をとり、配
分符号量比がP1ピクチャとBピクチャの発生符号量の
比となるように更新する。
【0049】まず、B0,B1,B2,B3ピクチャの
加重平均の平均量子化ステップ幅と発生符号量を基に
[数1]の式(14)の重み付けされた平均符号量WAGB
(waited-averaged-generated-bits)・Bを計算する。
【0050】
【数1】 これは、B0,B1,B2,B3各ピクチャの発生符号
量を、最適な量子化ステップ幅(Pピクチャの量子化ス
テップ幅×αQ)からのずれの少なさで重みを付けて平
均した発生符号量である。P1ピクチャとBピクチャの
配分符号量比をP1ピクチャの発生符号量と、この加重
平均されたBピクチャの発生符号量の比となるように、
次式(15)により更新する。 AR・P1/AR・B=GB・P1/WAGB・B (15) 以上のような配分符号量の比の更新を行うことにより、
PピクチャとBピクチャの量子化ステップ幅の比は最適
な比である1:αQに近い値になり、符号化効率と画質
の両面を考慮した最適な符号量配分が行われる。
【0051】(3) ピクチャ内のレート制御 ピクチャ内では仮想バッファを用いて、あるスライス単
位にフィードバック制御を行う。ピクチャ内の最初のス
ライスの量子化ステップ幅は、Iピクチャは割り当て符
号量とアクティビティを基にして求め、他のピクチャは
過去に符号化したピクチャの量子化ステップ幅を基にし
て決定する。
【0052】(3−1) ピクチャ内の最初のスライス
の量子化ステップ幅 Iピクチャの最初のスライスの量子化ステップ幅は割り
当て符号量AB・I,ピクチャ内のアクティビティの和
A・Iを基に、次式(16)に従って決定する。
【0053】 Q・I(1) =C5/AB・I・A・I (16) P0ピクチャの最初のスライスの量子化ステップ幅は、
[数2]の式(17)に示すIピクチャの量子化ステップ幅
の平均値に定数αQ0 を掛けた値を用いる。
【0054】
【数2】 Nピクチャ内の最初のP1ピクチャの最初のスライスの
量子化ステップ幅は、[数3]の式(18)に示すIピクチ
ャの量子化ステップ幅の平均値を用いる。
【0055】
【数3】 それ以外のP1ピクチャの最初のスライスの量子化ステ
ップ幅は、[数4]の式(19)に示す1つ前のP1ピクチ
ャの量子化ステップ幅の平均値を用いる。
【0056】
【数4】 P2ピクチャの最初のスライスの量子化ステップ幅は、
[数5]の式(20)に示すP1ピクチャの量子化ステップ
幅の平均値を用い、P1ピクチャと量子化ステップ幅が
大きく異なる事による画質劣化を防ぐ。
【0057】
【数5】 B0ピクチャの最初のスライスの量子化ステップ幅は、
P1ピクチャとP2ピクチャの量子化ステップ幅に対し
て最適の比となるように[数6]の式(21)に示すP1,
P2ピクチャの量子化ステップ幅の平均値にαQを掛け
た値を用いる。
【0058】
【数6】 B1,B2,B3ピクチャの最初のスライスの量子化ス
テップ幅は、それぞれ次式(22)に示すB0,B1,B2
ピクチャの最後のスライスの量子化ステップ幅を用い
る。
【0059】 Q・B1(1) =Q・B0(NM) Q・B2(1) =Q・B1(NM) Q・B3(1) =Q・B2(NM) (22) (3−2) I,P1,P2ピクチャ内のレート制御 I,P1,P2ピクチャ内では図8に示すような仮想バ
ッファ801を用い、バッファ801の占有量により量
子化ステップ幅更新部803で1スライス単位に符号化
装置800(図1)での量子化ステップ幅を更新する。
【0060】各ピクチャの符号化に先立って、バッファ
占有量を0にリセットする。符号化装置800からスラ
イス単位に発生した符号ビットGB(slice) をバッファ
801に蓄え、バッファ801から[数7]の式(23)に
示すスライス単位の配分符号量AB(slice)を取り出
す。但し、スライス単位の配分符号量は、Iピクチャに
ついてはピクチャ単位の割当符号量をスライスのアクテ
ィビティに比例して配分したもの、P1,P2ピクチャ
についてはピクチャ単位の割当符号量を1つ前の同じ種
類のピクチャの同じ空間的位置のスライスのアクティビ
ティに比例して配分したものであり、これらはピクチャ
単位符号量割り当て部802によってピクチャタイプに
よって割り当てられる。
【0061】
【数7】 スライス単位にバッファ占有量BC(buffer content)
を監視し、このバッファ占有量BCが閾値BT(buffer
threshold)を越えて(下回って)おり、かつ前スライ
スのバッファ占有量より大きい(小さい)場合には量子
化ステップ幅Qを+1(−1)する。但し、量子化ステ
ップ幅はQ=1〜31に制限する。閾値BTは、次式で
定義される値である。 BT=ABP/NM×(2/3) これらをまとめると、次のようになる。
【0062】 BC(0) =0; for(slice =1;slice <NM;slice ++){ BC(slice)=BC(slice-1)+GB(slice)−AB(slice); if(BC(slice)>BT &&BC(slice)>BC(slice-1) &&Q<31) Q+=1; else if (BC(slice)<−BT &&BC(slice)<BT(slice-1) &&Q>1) Q- =1; } このように、スライス単位にバッファから取り出す量を
各スライスのアクティビティに比例した値とし、量子化
ステップ幅の変化を最大で±1に制限し、しかも変更の
条件を従来法に比べ厳しくしているため、スライス毎に
量子化ステップ幅が大きく変化して画質が劣化する事が
無い。
【0063】なお、Iピクチャにおいては、ピクチャ内
の発生符号量がNピクチャに対する割り当て符号量の2
5%を越えた場合には、強制的にそれ以降の全ての係数
を0として符号が発生しないようにする。
【0064】(3−3) Bピクチャ内のレート制御 Bピクチャ内では、P1,P2ピクチャと同様の制御を
行う。但し、次の点が異なる。 (1) 量子化ステップ幅の更新は、10スライス単位に行
う。 (2) 更新を行うか否かは、バッファ占有量の絶対値が閾
値を越えているか否かによってのみ判定し、前スライス
のバッファ占有量との比較は行わない。 まとめると、次のようになる。 BC(0) =0; for( slice=1;slice <NM;slice++){ BC(slice)=BC(slice-1)+GB(slice)−AB(slice); if(slice %10==0 ){ if(BC(slice)>BT&&Q<31) Q+=1; else if (BC(slice)<−BT&&Q>1) Q−=1; } } Bピクチャにおける量子化ステップ幅の更新は10スラ
イス単位という長い周期で行われ、しかも変化は最大で
±1である。従って、量子化ステップ幅は長い期間にわ
たって、符号化効率が最適となるように設定されたB0
ピクチャの最初のスライスの量子化ステップ幅と近い値
を持つため、符号化効率が良い。
【0065】(3−4) P0ピクチャ内のレート制御 P0ピクチャ内では発生符号量がNピクチャに対する割
り当て符号量の25%を越えないこと目的として、仮想
バッファを導入の占有量により1スライス単位に量子化
ステップ幅を更新する。バッファから取り出すビット数
BOB(buffer-out-bits )は、次式(24)に示すように
Nピクチャの割り当て符号量の20%をピクチャ内のス
ライスの数で割った値である。 BOB(slice)=ABG×0.20/NM (24) スライス単位にバッファ占有量を監視し、バッファ占有
量が閾値を越えた場合には量子化ステップ幅を+1す
る。但し、量子化ステップ幅の最大値は31に制限す
る。閾値はバッファから取り出す符号量と同じ値であ
る。さらに、ピクチャ内の発生符号量がNピクチャに対
する割り当て符号量の25%を越えた場合には強制的に
それ以降の全てのマクロブロックの符号が発生しないよ
うにする。
【0066】P0ピクチャは、符号量が非常に大きくな
るような特殊な場合のみレートの制限を行うようにして
いる。実際の符号化においてこのような制限が行われる
事はきわめて希であり、ほとんどの場合、量子化ステッ
プ幅は最初のスライスにおける設定値であるIピクチャ
の量子化ステップ幅の平均値のままである。従って、量
子化ステップ幅がIピクチャに比べて大きく変化して画
質が劣化するような事が無い。
【0067】
【発明の効果】以上説明したように、本発明によるレー
ト制御を行うことにより、Nピクチャ単位に一定の符号
量となるように制御を行っているため、符号化レートを
設定した値とすることができる。
【0068】また、各ピクチャのステップ幅の比が最高
の符号化効率が得られ、かつ画質劣化が生じない比とな
るように符号量配分を行うことが可能であるため、符号
化効率が著しく向上する。
【0069】さらに、量子化ステップ幅の変化を制限し
ながら設定符号量に近づくようレートに制御を行うこと
で、量子化ステップ幅が大きく変化し過ぎることによる
画質劣化を伴うことなく発生符号量を設定した値に制御
することができる。
【図面の簡単な説明】
【図1】 本発明の一実施例に係る動画像符号化装置の
ブロック図
【図2】 同実施例におけるグループオブピクチャの構
成と符号化順序を示す図
【図3】 同実施例における各ピクチャの符号化時に予
測に用いるピクチャを示す図
【図4】 同実施例における符号化とレート制御の流れ
の一部を示す図
【図5】同実施例における符号化とレート制御の流れの
他の一部を示す図
【図6】 同実施例におけるNピクチャ間の符号量割当
の様子を示す図
【図7】 同実施例におけるP1ピクチャとBピクチャ
の配分符号量の比率の決定法を説明するための図
【図8】 同実施例におけるピクチャ内のレート制御に
用いる仮想バッファを示す図
【図9】 従来の動画像符号化装置におけるレート制御
法を説明するための図
【符号の説明】
101…フィールドメモリ 103…DCT
回路 104…量子化回路 105…逆量子
化回路 106…逆DCT回路 108…フィー
ルドメモリ 109…適応予測回路 110…動きベ
クトル検出回路 111…動きベクトル検出回路 112…可変長
符号化回路 113…可変長符号化回路 114…マルチ
プレクサ 115…バッファ 116…アクテ
ィビティ計算回路 117…符号制御部 801…仮想バ
ッファ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 尾高 敏則 神奈川県川崎市幸区小向東芝町1番地 株 式会社東芝総合研究所内

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】フレームまたはフィールド単位で入力され
    る動画像信号を複数の異なる予測符号化方式を選択的に
    用いて符号化する第1の符号化手段と、 この手段により符号化された信号を量子化する量子化手
    段と、 この手段により量子化された信号を可変長符号化する第
    2の符号化手段と、 前記第1および第2の符号化手段で符号化されたフレー
    ムまたはフィールドの前記量子化手段における量子化ス
    テップ幅および前記第2の符号化手段における発生符号
    量を記憶する記憶手段と、 前記発生符号量と相関を持つ所定の評価量を計算する計
    算手段と、 前記量子化ステップ幅と発生符号量および評価量を基に
    各フレームまたはフィールドに対する配分符号量および
    量子化ステップ幅の初期値を決定する手段とを具備する
    ことを特徴とする動画像符号化装置。
  2. 【請求項2】フレームまたはフィールド単位で入力され
    る動画像信号を予測符号化する第1の符号化手段と、 この手段により符号化された信号を量子化する量子化手
    段と、 この手段により量子化された信号を可変長符号化する第
    2の符号化手段と、 この第2の符号化手段により発生した符号列を蓄える仮
    想バッファと、 この仮想バッファから一定の符号化対象領域毎に符号列
    を取り出す手段と、 前記仮想バッファの占有量を基に前記量子化手段におけ
    る量子化ステップ幅を変更する手段と、 前記仮想バッファからの符号列取り出し量を前記符号化
    対象領域の発生符号量と相関を持つ所定の評価量を基に
    決定する手段とを具備することを特徴とする動画像符号
    化装置。
  3. 【請求項3】フレームまたはフィールド単位で入力され
    る動画像信号を予測符号化する第1の符号化手段と、 この手段により符号化された信号を量子化する量子化手
    段と、 この手段により量子化された信号を可変長符号化する第
    2の符号化手段と、 この第2の符号化手段により発生した符号列を蓄える仮
    想バッファと、 この仮想バッファから一定の符号化対象領域毎に符号列
    を取り出す手段と、 前記仮想バッファの占有量を監視する監視手段と、 この手段により監視された前記占有量が第1の閾値を越
    えかつ前回の監視時の占有量を上回っている場合には前
    記量子化手段における量子化ステップ幅を大きくし、前
    記占有量が第2の閾値を下回りかつ前回の監視時の前記
    占有量を下回っている場合には前記量子化ステップ幅を
    小さくする手段とを具備することを特徴とする動画像符
    号化装置。
JP29831791A 1991-05-31 1991-10-17 動画像符号化における符号量配分方法とこれを用いた動画像符号化方法及び装置 Expired - Lifetime JP3187097B2 (ja)

Priority Applications (11)

Application Number Priority Date Filing Date Title
JP29831791A JP3187097B2 (ja) 1991-10-17 1991-10-17 動画像符号化における符号量配分方法とこれを用いた動画像符号化方法及び装置
US07/890,705 US5317397A (en) 1991-05-31 1992-05-29 Predictive coding using spatial-temporal filtering and plural motion vectors
US08/156,709 US5424779A (en) 1991-05-31 1993-11-24 Video coding apparatus
US08/197,862 US5467136A (en) 1991-05-31 1994-02-17 Video decoder for determining a motion vector from a scaled vector and a difference vector
US08/295,421 US5541661A (en) 1991-05-31 1994-08-25 Video coding apparatus which forms an optimum prediction signal which is designated by a set of motion vectors of separate reference pictures
US08/430,366 US5647049A (en) 1991-05-31 1995-04-28 Video recording/reproducing apparatus which uses a differential motion vector determined using two other motion vectors
US08/626,922 US5754231A (en) 1991-05-31 1996-04-03 Bit allocation for motion video compression
US08/626,969 US5742344A (en) 1991-05-31 1996-04-03 Motion compensated video decoding method and system for decoding a coded video signal using spatial and temporal filtering
US09/054,403 US6016162A (en) 1991-05-31 1998-04-03 Video coding apparatus
US09/095,722 US6005627A (en) 1991-05-31 1998-06-11 Video coding apparatus
US09/095,712 US5986713A (en) 1991-05-31 1998-06-11 Video coding apparatus using inter-field prediction

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP29831791A JP3187097B2 (ja) 1991-10-17 1991-10-17 動画像符号化における符号量配分方法とこれを用いた動画像符号化方法及び装置

Publications (2)

Publication Number Publication Date
JPH05111012A true JPH05111012A (ja) 1993-04-30
JP3187097B2 JP3187097B2 (ja) 2001-07-11

Family

ID=17858081

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29831791A Expired - Lifetime JP3187097B2 (ja) 1991-05-31 1991-10-17 動画像符号化における符号量配分方法とこれを用いた動画像符号化方法及び装置

Country Status (1)

Country Link
JP (1) JP3187097B2 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05252507A (ja) * 1991-11-08 1993-09-28 Internatl Business Mach Corp <Ibm> 適応的ビット割振り及び量子化を用いたモーション・ビデオ圧縮システム
JPH07240926A (ja) * 1994-02-28 1995-09-12 Victor Co Of Japan Ltd 画像間予測符号化装置
JPH0846977A (ja) * 1994-03-30 1996-02-16 Sgs Thomson Microelectron Sa 画像圧縮回路
WO1996007273A1 (en) * 1994-08-26 1996-03-07 Sony Corporation Method and device for transmitting compressed picture data
EP0660612A3 (en) * 1993-12-22 1996-04-03 Sharp Kk Image coding apparatus.
WO1996028937A1 (en) * 1995-03-09 1996-09-19 Sony Corporation Method and device for encoding picture signal
WO1997039588A1 (en) * 1996-04-12 1997-10-23 Sony Corporation Image encoder, image encoding method and medium on which image encoding program is recorded
JP2006025428A (ja) * 2004-07-06 2006-01-26 Thomson Licensing ソース画像のシーケンスを符号化する方法及び装置
US7376187B2 (en) 1995-03-15 2008-05-20 Kabushiki Kaisha Toshiba Moving picture coding and/or decoding systems, and variable-length coding and/or decoding system
JP2008124707A (ja) * 2006-11-10 2008-05-29 Mitsubishi Electric Corp 動画像符号化装置
US7593462B2 (en) 1998-03-16 2009-09-22 Mitsubishi Denki Kabushiki Kaisha Moving picture encoding system
JP2010281965A (ja) * 2009-06-03 2010-12-16 Sony Corp 量子化装置、再生装置、量子化方法およびプログラム
US8325799B2 (en) 2004-12-28 2012-12-04 Nec Corporation Moving picture encoding method, device using the same, and computer program
JP2012239085A (ja) * 2011-05-12 2012-12-06 Canon Inc 画像処理装置、画像処理方法
JP2013258754A (ja) * 2006-12-12 2013-12-26 Vantrix Corp 映像符号化規格に対応した映像レート制御の改善
WO2014199634A1 (ja) * 2013-06-12 2014-12-18 三菱電機株式会社 画像符号化装置、画像符号化方法、画像復号装置及び画像復号方法
WO2015025747A1 (ja) * 2013-08-22 2015-02-26 ソニー株式会社 符号化装置、符号化方法、送信装置、復号化装置、復号化方法および受信装置

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05252507A (ja) * 1991-11-08 1993-09-28 Internatl Business Mach Corp <Ibm> 適応的ビット割振り及び量子化を用いたモーション・ビデオ圧縮システム
EP0660612A3 (en) * 1993-12-22 1996-04-03 Sharp Kk Image coding apparatus.
US5631644A (en) * 1993-12-22 1997-05-20 Sharp Kabushiki Kaisha Image encoding apparatus
EP0966163A3 (en) * 1993-12-22 2000-03-08 Sharp Kabushiki Kaisha Image encoding apparatus
JPH07240926A (ja) * 1994-02-28 1995-09-12 Victor Co Of Japan Ltd 画像間予測符号化装置
JPH0846977A (ja) * 1994-03-30 1996-02-16 Sgs Thomson Microelectron Sa 画像圧縮回路
WO1996007273A1 (en) * 1994-08-26 1996-03-07 Sony Corporation Method and device for transmitting compressed picture data
US5838925A (en) * 1994-08-26 1998-11-17 Sony Corporation Method and apparatus for transmission of compressed picture data
WO1996028937A1 (en) * 1995-03-09 1996-09-19 Sony Corporation Method and device for encoding picture signal
US5870145A (en) * 1995-03-09 1999-02-09 Sony Corporation Adaptive quantization of video based on target code length
US7376187B2 (en) 1995-03-15 2008-05-20 Kabushiki Kaisha Toshiba Moving picture coding and/or decoding systems, and variable-length coding and/or decoding system
US7388914B2 (en) 1995-03-15 2008-06-17 Kabushiki Kaisha Toshiba Moving picture coding and/or decoding systems, and variable-length coding and/or decoding system
WO1997039588A1 (en) * 1996-04-12 1997-10-23 Sony Corporation Image encoder, image encoding method and medium on which image encoding program is recorded
US6535556B1 (en) 1996-04-12 2003-03-18 Sony Corporation Apparatus and method for encoding images and medium in which image encoding program has been recorded
US6347117B1 (en) 1996-04-12 2002-02-12 Sony Corporation Apparatus and method for encoding images and medium in which image encoding program has been recorded
US7593462B2 (en) 1998-03-16 2009-09-22 Mitsubishi Denki Kabushiki Kaisha Moving picture encoding system
JP2006025428A (ja) * 2004-07-06 2006-01-26 Thomson Licensing ソース画像のシーケンスを符号化する方法及び装置
US8325799B2 (en) 2004-12-28 2012-12-04 Nec Corporation Moving picture encoding method, device using the same, and computer program
JP2008124707A (ja) * 2006-11-10 2008-05-29 Mitsubishi Electric Corp 動画像符号化装置
JP2013258754A (ja) * 2006-12-12 2013-12-26 Vantrix Corp 映像符号化規格に対応した映像レート制御の改善
JP2010281965A (ja) * 2009-06-03 2010-12-16 Sony Corp 量子化装置、再生装置、量子化方法およびプログラム
JP2012239085A (ja) * 2011-05-12 2012-12-06 Canon Inc 画像処理装置、画像処理方法
WO2014199634A1 (ja) * 2013-06-12 2014-12-18 三菱電機株式会社 画像符号化装置、画像符号化方法、画像復号装置及び画像復号方法
JP6022060B2 (ja) * 2013-06-12 2016-11-09 三菱電機株式会社 画像符号化装置及び画像符号化方法
US10034019B2 (en) 2013-06-12 2018-07-24 Mitsubishi Electric Corporation Image encoding device, image encoding method, image decoding device, and image decoding method
WO2015025747A1 (ja) * 2013-08-22 2015-02-26 ソニー株式会社 符号化装置、符号化方法、送信装置、復号化装置、復号化方法および受信装置
JPWO2015025747A1 (ja) * 2013-08-22 2017-03-02 ソニー株式会社 符号化装置、符号化方法、送信装置、復号化装置、復号化方法および受信装置
US10187646B2 (en) 2013-08-22 2019-01-22 Sony Corporation Encoding device, encoding method, transmission device, decoding device, decoding method, and reception device

Also Published As

Publication number Publication date
JP3187097B2 (ja) 2001-07-11

Similar Documents

Publication Publication Date Title
JP3954656B2 (ja) 画像符号化装置及び方法
JP3224465B2 (ja) 画像符号化装置
JPH05111012A (ja) 動画像符号化装置
US5418569A (en) Method and apparatus for predictive coding of moving images while adaptively changing the method in accordance with them
JP3436507B2 (ja) ビットレート制御方法
JPH05167998A (ja) 画像の符号化制御処理方法
JP2002058029A (ja) 動画像符号化装置および動画像符号化方法およびプログラムを記録した媒体
JPH0923423A (ja) 信号符号化方法、信号符号化装置及び信号記録媒体
JP2003018603A (ja) 動画像符号化方法及び装置
JP3755155B2 (ja) 画像符号化装置
JPH118850A (ja) 可変長符号化データの処理方法及び装置
JP3259702B2 (ja) 動画像可変ビットレート符号化装置および方法
JPH07112284B2 (ja) 予測符号化装置及び復号化装置
US20020172282A1 (en) Signal coding apparatus and method, signal recording medium, and signal transmitting method
EP0905981A1 (en) Video signal coding method and coding device
JPH0638194A (ja) 符号化装置
JP3508916B2 (ja) 動画像可変ビットレート符号化方法および装置
JP3757088B2 (ja) 動画像符号化装置および方法
US6577680B2 (en) Video signal coding method and coding device adapted to control code amounts according to the characteristics of pictures
JP3240024B2 (ja) 画像処理方法
JPH11275577A (ja) 映像信号符号化方法及び装置
JP3200199B2 (ja) 動画像圧縮符号化方法
JP3888533B2 (ja) 画像特徴に応じた画像符号化装置
JP3112035B2 (ja) 動画像圧縮符号化装置及び方法
JP2000261809A (ja) 画像特徴に応じた画像符号化装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090511

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090511

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100511

Year of fee payment: 9

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110511

Year of fee payment: 10

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110511

Year of fee payment: 10

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120511

Year of fee payment: 11

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120511

Year of fee payment: 11