JP3661711B2 - 画像符号化方法および装置 - Google Patents
画像符号化方法および装置 Download PDFInfo
- Publication number
- JP3661711B2 JP3661711B2 JP12722195A JP12722195A JP3661711B2 JP 3661711 B2 JP3661711 B2 JP 3661711B2 JP 12722195 A JP12722195 A JP 12722195A JP 12722195 A JP12722195 A JP 12722195A JP 3661711 B2 JP3661711 B2 JP 3661711B2
- Authority
- JP
- Japan
- Prior art keywords
- coding
- intra
- screen
- encoding
- coding mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【産業上の利用分野】
この発明は、例えばMPEG(Moving Picture ExpertGroup)1やMPEG2による画像符号化に適用して好適な画像符号化方法および装置に関する。
【0002】
【従来の技術】
動画像の圧縮符号化としてMPEG1や、その発展型のMPEG2がよく知られている。この圧縮符号化方式(以下、単にMPEGと呼ぶことにする)は、その符号化アルゴリズムとして、動き補償予測と、2次元DCT(離散コサイン変換)を組み合わせたものを使用するものである。
【0003】
MPEGの特徴としては、動き補償の予測効率を高める双方向予測、編集やランダムアクセスを可能とする画面群(これをGOP(Group Of Picture)と呼ぶ)構造、全体の符号発生量制御などの符号化の細かな制御が挙げられる。
【0004】
双方向予測を実現するため、MPEGでは、1画面分の画像(フレームまたはフィールド)に、Iピクチャと、Pピクチャと、Bピクチャの3種類のピクチャタイプを規定している。
【0005】
Iピクチャは、予測は使わずに、1画面内で閉じた情報による符号化(画面内符号化と呼ぶ。以下、この画面内符号化のモードをイントラモードと呼び、このイントラモードのみで符号化されたフレームをイントラフレームと呼ぶ)のみを行なうものである。
【0006】
MPEGでは、前記のGOPには、Iピクチャが少なくとも1枚入るように規定されている。このようにすれば、Iピクチャから映像をデコードできるので、GOP単位での編集やランダムアクセスが可能になる。
【0007】
Pピクチャは、過去のIピクチャあるいはPピクチャからの一方向の動き補償予測を用いるものである。また、Bピクチャは、過去および未来のピクチャを用いた双方向予測を用いるものである。
【0008】
PピクチャおよびBピクチャは、画面内の小ブロック単位(マクロブロックと呼ばれている)の部分では、イントラモードによる符号化を含む。以下の説明では、一方向および双方向予測を画面(フレームまたはフィールド)間で行なう符号化モード(画面間符号化モード)をインターモードと呼び、このインターモードにより符号化されたマクロブロックを含むフレームをインターフレームと呼ぶこととする。
【0009】
【発明が解決しようとする課題】
上述したMPEGにおいても、H.261規格と同様に、DCT係数の量子化ステップ(量子化スケール)を制御することにより、全体の符号発生量制御を行なうことができる。例えば、一定の伝送レートで圧縮符号化画像データを伝送する場合には、送信バッファを設けておき、このバッファの占有率に応じて量子化ステップを制御して符号発生量を制御するものである。
【0010】
ところで、このように、定レート化制御を行なっているMPEGの画像符号化装置の場合(以下の説明はMPEG1の場合)、入力画像として動きの少ないシーンが続くときに、各フレームをインターモードで符号化すると、フレーム間誤差信号のエネルギーが非常に少なくなり、符号発生量が減る。このため、定レート化のフィードバックがかかり、量子化スケールが細かくなって、量子化誤差が少なくなり、高画質のインターフレームが得られる。
【0011】
前述したように、MPEGでは、GOP内には、必ずIピクチャ、すなわち、イントラフレームが少なくとも1枚は強制的に挿入される。このため、上述のように、動きの少ないシーンが続いているような状況において、強制的にイントラフレームが挿入されると、このイントラフレームでは圧倒的に符号発生量が多くなるので、定レート化制御により、いきなり量子化スケールを粗くするようにフィードバックがかかり、このイントラフレームおよびその後のピクチャの画質は、急激に悪化してしまう。
【0012】
そして、このようにして量子化されたイントラフレームは、量子化誤差を多く含むため、その後、インターフレームが続いても、そのインターフレームの動き補償が、当該量子化誤差の多いフレームを元に行なわれることになるので、前記挿入されたイントラフレームの直前のS/N程度に復帰するまで数フレームかかり、そのため、動きの少ないシーンでは周期的に画質の劣化、向上が繰り返され、これが視覚上問題となる。
【0013】
圧縮符号化した画像データを、一旦、蓄積メディアに保存できるようなシステムでは、強制イントラフレームをインターフレームにした場合の結果から決定して、イントラフレームをインターフレームにすげ替えることは可能であるが、リアルタイム処理が必要となる放送用の装置の場合には、入力画像が静止画と予め判明している素材であるならともかく、動画中の静止画のような部分における前記のすげ替えは従来はできなかった。
【0014】
この発明は、以上の点にかんがみ、上述のように、画面内符号化モードと、動き補償予測による画面間符号化モードとを用いると共に、定レート化制御を行ないながら、リアルタイムで画像圧縮符号化を行なう画像符号化装置において、動画中に静止画が続くようなシーンであっても、高画質の画像が得られるようにすることを目的とする。
【0015】
【課題を解決するための手段】
前記課題を解決するため、この発明による画像符号化装置は、
画面内符号化モードと、動き補償予測による画面間符号化モードとを用いると共に、予め設定された周期で前記画面内符号化モードでのみ圧縮符号化する画面内符号化領域を選択指定し、リアルタイムで画像圧縮符号化を行なう画像符号化装置であって、
圧縮符号化手段と、
前記圧縮符号化手段の前段に設けられ、前記画面内符号化領域が含まれるフレームがシーンが変化する部分であるか否かを検出するシーンチェンジ検出手段と、
前記圧縮符号化手段の前段に設けられ、前記画面内符号化領域における発生符号見積り量を、前記画面内符号化モードでのものと、前記画面間符号化モードを含む状態でのものとを算出する発生符号量見積り手段と、
前記発生符号量見積り手段で算出された前記画面内符号化モードでの発生符号見積り量と、前記画面間符号化モードを含む状態での発生符号見積り量との差が所定値よりも大きく、かつ、前記シーンチェンジ検出手段の検出出力により、前記画面内符号化領域を含むフレームがシーンが変化する部分でもないと検出されたときに、前記画面内符号化領域に対する前記画面内符号化モードで圧縮符号化すべきとする選択指定を解除して、前記画面間符号化モードを含む符号化モードで圧縮符号化するように指定を変更する指定変更手段と
を備えることを特徴とする。
【0016】
また、前記圧縮符号化手段の後段に、
バッファメモリと、
このバッファメモリからのデータ占有量の情報に基づいて前記圧縮符号化手段の量子化特性を制御して、前記バッファメモリから出力されるデータの伝送レートを一定に制御する制御手段とを設けると共に、
前記バッファ占有量の情報を前記指定変更手段に供給し、
前記指定変更手段は、前記シーンチェンジ検出手段の検出出力と、前記発生符号量見積り手段から得られる発生符号見積り量と、前記バッファ占有量に基づいて、前記予めフレーム内符号化モードで圧縮符号化するように選択された符号化領域を、そのままフレーム内符号化モードで圧縮符号化を行なわせるか否かを決定するようにしてもよい。
【0017】
【作用】
以上の構成のこの発明による画像符号化装置においては、予め、発生符号量見積り部で、画面内符号化モードのみで符号化したときの見積り量や、画面間符号化モードを含む状態で符号化したときの見積り量を算出しておくことができる。このため、判断手段では、両見積り量の差から静止画が続いているシーンであることを検出でき、その検出結果に基づいて、画面内符号化のみの指定を解除して、画面間符号化を行なわせるなど、適切な指定変更処理が行なわれる。
【0018】
また、実際の圧縮符号化に先立ち、見積り量の推移を監視することも可能になり、静止画領域か、通常の動画領域かの判断も確実に行なうことも可能になる。
【0019】
また、伝送レートを一定にするために、バッファメモリと制御手段とを備え、バッファ占有量をも判断手段の判断資料情報として用いる場合には、バッファ占有量を最優先にして、前記の符号化領域についての指定の変更を決定することができる。
【0020】
【実施例】
以下、この発明による画像符号化装置の一実施例を図1および図2を参照しながら説明する。図1は、この例の画像符号化装置のブロック図であり、この例は、デジタル画像データをMPEG1で圧縮する場合の例である。図2は、図1の例の説明のためのタイムチャートである。
【0021】
図1の例の画像符号化装置は、エントロピー符号化を伴う画像圧縮システムであり、入力画像データDiを圧縮符号化して、一定通信路容量の通信路に、圧縮後の出力データDoを伝送するものである。
【0022】
圧縮符号化部21は、画像データの圧縮符号化を行なう。この圧縮符号化は、前述したように、動き補償予測と、2次元DCTを組み合わせたものである。後述するように、この圧縮符号化部21に対しては、GOPコントローラ14からの情報Typにより、処理対象となっているフレームについて、前述したIピクチャ、Pピクチャ、Bピクチャの3種のピクチャタイプの指定が行なわれる。
【0023】
圧縮符号化部21で圧縮符号化されたデータは、可変長符号化部22に供給されて、ハフマン符号などの可変長符号とされ、定レート化バッファ23に供給される。可変長符号化部22は、また、当該対象となっている、例えばフレーム単位の発生符号量を算出して、定レートコントローラ24に供給する。
【0024】
定レート化バッファ23は、一定通信路容量の通信路に、圧縮後の出力データDoを、定レートで出力端子25を介して送出するためのバッファである。この定レート化バッファ23がオーバーフローあるいはアンダーフローしないようにすることにより、出力データDoの定レート化が実現できる。このため、この定レート化バッファ23におけるデータDoのバッファ占有量Beも、定レート化コントローラ24に供給される。
【0025】
定レート化コントローラ24は、可変長符号化部22からの発生符号量と、定レート化バッファ23からのバッファ占有量Beの情報とに基づいて、圧縮符号化部21での量子化のステップ幅の制御を行ない、定レート化バッファ23がオーバーフローあるいはアンダーフローしないようにしている。
【0026】
定レート化コントローラ24は、また、GOPコントローラ14に前述したフレーム単位の発生符号量、現在のバッファ占有量Be、実際の圧縮符号化の結果を与えている。また、逆に、定レート化コントローラ24は、GOPコントローラ14からこれから符号化するフレームの確定したピクチャタイプの情報Typを受け取り、現在のバッファ占有量Beと、ピクチャタイプに応じて、圧縮符号化部21で符号化しようとするピクチャの発生符号量の目標値であるターゲット量(ビット数)を設定する。
【0027】
後述するように、GOPコントローラ14は、現時点の入力画像データについて仮にIピクチャとされたフレームを圧縮符号化したときの発生符号量の見積り量が、過去のPピクチャ、Bピクチャでの発生符号見積り量に比べ圧倒的に多く、しかも、そのIピクチャがシーンチェンジのフレームでない場合には、その仮のIピクチャをPピクチャに変更するようにする。
【0028】
この目的のため、この例においては、圧縮符号化部21の前段に、シーンチェンジ検出部12と、発生符号量見積り部17とを設ける。
【0029】
入力画像データDiは、入力端子11を通じてシーンチェンジ検出部12に供給される。シーンチェンジ検出部12は、動画中でシーンが変化するフレームを検出するもので、この例では、その検出方法として、例えば画像入力データDiの現在のフレームと、1フレーム前のフレームとの2フレーム間の差分をとり、その差分の絶対値がスレッショールド値を越えた場合に、現フレームをシーンチェンジのフレームとして検出する方法を用いる。なお、このシーンチェンジの検出方法としては、この方法に限られるものでないことはもちろんである。
このシーンチェンジ検出部12の検出信号CHG(この例ではフレーム単位)は、GOPコントローラ14に供給される。
【0030】
入力端子11を通じた入力画像データDiは、また、ピクチャ順入れ替え部13に供給される。ピクチャ順入れ替え部13は、GOPシーケンス発生部15からの前述した3種類のピクチャタイプ(Iピクチャ、Pピクチャ、Bピクチャの3タイプ)の情報に基づいて、各ピクチャの予測符号化の方向を考慮して、指定されたピクチャタイプで予測符号化ができるようにフレーム順序を変更する。
【0031】
GOPシーケンス発生部15は、周期的にイントラ符号化のみを行なうフレーム、すなわち、Iピクチャを含み、前記の3種のピクチャタイプからなる複数フレームとして仮のGOPのシーケンスを発生する。この例の場合、強制的に8フレームごとにIピクチャが登場するように、仮のGOPシーケンスが定められている。ここで、仮のGOPシーケンスと称したのは、前述したように、このGOPシーケンス発生部15により指定されたIピクチャが、GOPコントローラ14によってPピクチャに変更される場合があるからである。
【0032】
このGOPシーケンス発生部15からのピクチャタイプの情報tyは、GOPコントローラ14、符号化モードおよび動きベクトル決定部16、発生符号量見積り部17に供給される。
【0033】
符号化モードおよび動きベクトル決定部16は、ピクチャ順入れ替え部13からの画像データを受けるとともに、GOPシーケンス発生部15からのピクチャタイプの情報tyを受け、マクロブロック単位で符号化モードを決定する。この場合、ピクチャタイプがイントラフレームのIピクチャであれば、すべてイントラモードとする。また、ピクチャタイプが他のタイプのインターフレームとするものであれば、イントラモードかインターモードか、インターモードであれば、予測符号化の予測方向が片方向か両方向か、片方向であれば、順方向か逆方向かを決定する。
【0034】
また、符号化モードおよび動きベクトル決定部16は、ピクチャタイプに応じて動き検出および動きベクトルの検出を行なう。
【0035】
発生符号量見積り部17は、実際の圧縮符号化に先立ち、指定されたピクチャタイプで符号化されたときの発生符号量(可変長符号化部22からの発生符号量に対応)を見積る。発生符号量見積り部17は、可変長符号化部22で発生する符号化領域単位の発生符号量を事前に見積るもので、この例の場合、発生符号量の見積りはフレーム単位で行なわれる。
【0036】
発生符号量見積り部17では、発生符号量の見積もり時に、GOPシーケンス発生部15からのピクチャタイプの情報tyが各フレームで使用されることになる。また、符号化モードおよび動きベクトル決定部16で決定されたイントラ、インター、予測方向などの符号化モードおよび動きベクトルなども、発生符号量を見積る際に使用される。
【0037】
この例の場合、GOPシーケンス発生部15からのピクチャタイプtyがIピクチャを指示するものである場合には、前述したように、IピクチャがPピクチャに変更される場合を考慮して、符号化モードおよび動きベクトル決定部16では、Pピクチャである場合の符号化モード、動き検出および動きベクトルも決定される。
【0038】
また、発生符号量見積り部17は、GOPシーケンス発生部15からのピクチャタイプtyがIピクチャを指示するものである場合には、決定部16で決定さらた前記IピクチャがPピクチャである場合の符号化モード、動き検出および動きベクトルを用いて、Pピクチャである場合の発生符号見積り量の算出を行なう。
【0039】
発生符号量見積り部17で算出されたフレーム単位の発生符号見積り量は、GOPコントローラ14を介してメモリ18に蓄えられる。この例の場合、発生符号量見積り部17で見積もっているフレームと、圧縮符号化部21で実際に圧縮符号化しているフレームとの間に、数フレームの見積り量推移観察区間を設定し、メモリ18には、その見積り量推移観察区間分の複数フレーム分の見積り量が記憶される。
【0040】
この例においては、この見積り量推移観察区間の長さは、少なくとも1GOP以上、この例では9フレームとしている。
【0041】
そして、GOPコントローラ14は、GOPシーケンス発生部15からのピクチャタイプの情報tyがIピクチャを示しているとき、発生符号量見積り部17からの発生符号量の見積り量により、当該フレームを、そのままIピクチャで圧縮符号化したときの発生符号見積り量EIと、Pピクチャに変更して圧縮符号化するときの発生符号見積り量EPとを調べ、これにより、見積り量EIが、見積り量EPに比べて、有意とされるほどに多いかどうかを調べる。
【0042】
動画が連続しているシーン中においては、フレームがIピクチャとされたときの発生符号見積り量EIaと、Pピクチャとされたときの発生符号見積り量EPaとを比べると、概ね、見積り量EIaは、EPa<EIa<2・EPaの範囲にある。
【0043】
一方、静止画が連続しているシーン中においては、フレームがIピクチャとされたときの発生符号見積り量EIbと、Pピクチャとされたときの発生符号見積り量EPbとを比べると、上記の範囲内にはなく、EIb>2EPbとなる。場合によっては、EIb>10EPbとなる。そこで、前記の見積り量EIと、見積り量EPとを比較することで、当該フレームが、静止画が連続しているシーン部分のものであるかどうかが判定できる。
【0044】
そして、当該フレームがシーンチェンジ部分であれば、それはIピクチャのまま符号化すべきものであるので、ピクチャタイプの変更は行なわないようにすべきであるので、見積り量EIおよびEPと、シーンチェンジ検出出力CHGとからIピクチャをPピクチャに変更するかどうかを決定することが可能である。
【0045】
しかし、この例では、静止画が連続していることをより確実に検知するようにするため、メモリ18に蓄えられている、見積り量推移観察区間の過去のPピクチャ、Bピクチャの発生符号見積り量の推移を調べ、静止画あるいは動きが非常に少ないシーンであるかどうかを調べて、ピクチャタイプをIピクチャからPピクチャに変更するかどうかを決定する。すなわち、見積り量推移観察区間の過去のPピクチャ、Bピクチャの発生符号見積り量の推移を調べ、それに応じて、見積り量EIと見積り量EPとの差が度の程度であれば、IピクチャをPピクチャに変更するかのスレッショールド値を変更するようにする。
【0046】
また、定レート化バッファ23の占有量が少なく容量に十分に余裕があれば、IピクチャをPピクチャに変更しないようにすることもできるし、バッファ23の占有量が大きければ、見積り量EIと見積り量EPの差がそれほど大きくなくても、IピクチャをPピクチャに変更したほうがよい場合もある。そこで、GOPコントローラ14は、この例では、定レート化コントローラ24からのバッファ占有量の情報をも参照して、IピクチャをPピクチャに変更するか否かを決定する。
【0047】
そして、GOPコントローラ14は、変更したピクチャタイプにより、実際の圧縮符号化を圧縮符号化部21で行なわせるようにするため、前述したように、ピクチャタイプの情報Typを、圧縮符号化部21および定レート化コントローラ24に知らせる。
【0048】
ピクチャ順入れ替え部13からの画像データは、遅延手段20により、前述した見積り量推移観察区間の複数フレーム分だけ遅延されて圧縮符号化部21に供給される。また、符号化モードおよび動きベクトル決定部16からの情報も、前述した見積り量推移観察区間分の遅延を行なう遅延手段19により遅延されて、圧縮符号化部21に供給される。
【0049】
なお、GOPコントローラ14は、IピクチャからPピクチャへの変更が頻繁に行なわれるなどして、イントラ符号化領域が少なくなる場合を考慮して、IピクチャからPピクチャへの変更が予め設定しておいた規定回数を越えた場合には、後述するように、符号量の極端な増加が起きない、1フレームより小さい適当な符号化領域を周期的に選択設定し、その領域では量子化ステップ幅を細かくしたイントラ符号化モードで符号化が行なわれるように制御するようにするようにしている。この制御信号は、GOPコントローラ14から遅延手段19を通じて圧縮符号化部21に送られる。
【0050】
以上の例では、見積り量推移観察区間を1GOP以上の長さとしたことにより、次のような効果が得られる。すなわち、GOPコントローラ14でIピクチャをそのまま、Iピクチャとするか、Pピクチャに変更するかのために注目しているフレームは、圧縮符号化部21で符号化しようとしているフレームにとっては、1GOP分だけ未来のIピクチャである。
【0051】
定レート化コントローラ24において、圧縮符号化部21でこれから圧縮符号化を行なおうとするIピクチャのターゲット量を決めるとき、そのIピクチャに対して1GOP分未来のIピクチャが、そのままIピクチャであるのか、それともPピクチャに変更されたが分かると、よりオーバーフローの危険性を回避しつつ、かつ、その中で許容されるビット量を有効に使うことが可能になり、信頼性の高いターゲット量の決定を行なうことができる。
【0052】
上述のように、見積り量推移観察区間を1GOP以上の長さとしたことにより、前記の1GOP分未来の仮Iピクチャがそのまま、Iピクチャとされるか、Pピクチャに変更されたかの情報を定レート化コントローラ24に伝達することができ、定レート化コントローラ24は、圧縮符号化部21での圧縮符号化の際のターゲット量を効率よく設定することができるものである。すなわち、1GOP分未来のIピクチャがPピクチャに変更される場合には、圧縮符号化部21でこれから符号化するIピクチャについてのターゲット量は、それを考慮してより多くのビットを割り付けることができる。
【0053】
以上の動作を、図2のタイムチャートにしたがって、さらに説明する。
図2Aは、フレームパルスを示す。また、図2Bは、フレーム単位の入力画像データDiを示すものであり、数値は入力順のフレーム番号を示している。GOPコントローラ14は、図2のタイムチャートの各フレームの最後で、そのフレームにおいて、図1の各部で生成された各種パラメータを読み込む。そして、GOPシーケンス発生部15からのピクチャタイプの情報tyがIピクチャである場合には、その部分が静止画かどうかの判断を行ない、かつ、この例の場合には、バッファ占有量が過去の発生符号量の影響で上がっていると判断した場合には、そのIピクチャをPピクチャに変更する。
【0054】
今、フレーム番号「1」のフレームがシーンチェンジのフレームであるとすると、図2Cに示すようなシーンチェンジ検出信号CHGがシーンチェンジ検出部12から得られ、GOPコントローラ14に与えられる。
【0055】
この例の場合、GOPシーケンス発生部15から図2Dに示すように、8フレーム毎にIピクチャが挿入されるピクチャタイプの情報(図では記号IはIピクチャ、記号PはPピクチャ、記号BはBピクチャを示している)が発生するものとする。このようなピクチャタイプの情報により、ピクチャ順入れ替え部13では、図2Eに示すように、フレーム順を入れ替える。
【0056】
そして、入れ替えられたフレームの画像データについて、フレーム単位で発生符号量見積り部17で発生符号量の見積りを行なった結果の例を図2Fに示す。この図2Fで、各ピクチャタイプの記号に付与した数値は入力順のフレーム番号である。
【0057】
そして、ピクチャ順入れ替え部13からの画像データは、遅延手段20で9フレーム分遅延される。図2G,H,I,…,N,Oは、ピクチャ順入れ替え部13からの画像データがそれぞれ1フレームずつ遅延された状態を示している。
【0058】
そして、図2Pは、圧縮符号化部21で実際に圧縮符号化が行なわれたときの可変長符号化部22から発生するフレーム単位の発生符号量のデータを示している。
【0059】
次に、GOPコントローラ14におけるIピクチャからPピクチャへの変更動作の処理ルーチンを、図3のフローチャートに従い説明する。
【0060】
まず、GOPコントローラ14は、ステップS1で、GOPシーケンス発生部15で指定された現見積りフレーム(当該時点で発生符号量見積り部17で見積りを行なうフレーム)のピクチャタイプを読む。次に、ステップS2で、定レート化コントローラ24からの現符号化フレーム(当該時点で圧縮符号化部21で符号化を行なうフレーム)の発生符号量を読む。
【0061】
次に、ステップS3に進んで、現符号化フレームより1GOP分未来である現見積りフレームの見積り量を読む。次に、ステップS4で、現見積りフレームがシーンチェンジフレームか否かを確かめるため、シーンチェンジ検出信号CHGを読む。次に、ステップS5で、現見積りフレームのピクチャタイプがIピクチャであるか否か判断する。
【0062】
現見積りフレームがIピクチャでなければ、ステップS10に飛んで、次の見積りフレームまで待ち、ステップS1に戻る。また、現見積りフレームがIピクチャであれば、ステップS6に進んで、現符号化フレームより1GOP分未来のフレームまでにシーンチェンジがあるか否か判断し、シーンチェンジがあれば、同様にステップS10に飛んで、次の見積りフレームまで待ち、ステップS1に戻る。
【0063】
一方、ステップS6で現符号化フレームより1GOP分未来のフレームまでにシーンチェンジがないと判断したときは、ステップS7に進んで、見積りフレームがIピクチャであったときの発生符号見積り量EIと、見積りフレームがPピクチャであったときの発生符号見積り量EPとを比較し、見積り量EIが見積もり量EPよりも有意である程度に多いかどうか判断する。ここで、有意かどうかは、前述したように、この例では見積り量EIが見積り量EPの2倍以上であり、また、過去のBピクチャ、Pピクチャの状況やバッファ占有量により応じた差異を判断するものとなる。ステップS6とステップS7の判断処理は、静止画かどうかの判断である。
【0064】
ステップS6で見積り量EIと見積り量EPの差は、有意ではないとされたとき、つまり、静止画でないと判断されたときには、ステップS10に飛んで、次の見積りフレームまで待ち、ステップS1に戻る。
【0065】
また、ステップS7で見積り量EIと見積り量EPの差が、有意であるとされたとき、つまり、静止画であると判断されたときには、ステップS8に進み、定レート化バッファ23のバッファ占有率が過去の発生符号量の影響で上がっているか否かを判断する。現符号化フレームより過去のフレームの符号発生量中に、シーンチェンジなどにより著しい符号発生量の変化があれば、バッファ占有率は上がっている。
【0066】
ステップS8で、バッファ占有率が上がっていると判断されたときには、ステップS9に進んで、現見積りフレームのピクチャタイプをIピクチャからPピクチャに変更する。その後、ステップS10に進み、次の見積りフレームまで待ち、ステップS1に戻る。また、ステップS8で、バッファ占有率が上がってはいないと判断されたときには、ピクチャタイプの変更を行なうことなく、ステップS10に進んで、次の見積りフレームまで待ち、ステップS1に戻る。
【0067】
図2のタイムチャートの例の場合に、フレーム番号「9」のフレームI9はIピクチャとGOPシーケンス発生部15により指定されているが、その前の複数フレームB0〜I9までの発生符号見積り部17で得られた各フレームの発生符号見積り量の推移を見ると、図2Eに示すように、フレームI9の見積り量EIが、それより前の8フレーム分のPピクチャおよびBピクチャの発生符号見積り量に比べ、著しく多くなっている点を除いて、同程度の少ないビット数で推移しており、かつ、その区間、シーンチェンジも検出されていない。
【0068】
そして、フレームI9をPピクチャにして、発生符号見積り量を比べると、図2Eに示すように、その見積り量EPは、それより前の8フレーム分のPピクチャおよびBピクチャの発生符号見積り量と同程度である。そこで、図3のフローチャートのステップS6およびS7により、フレームB0〜I9までは静止画が続いているものと判断されることになる。そして、図2の例では、フレームI1は、シーンチェンジフレームであるので、Iピクチャのままとなっており、このフレームI1より前のGOP(I−7〜B−2)の発生符号量が多くて、バッファ占有率が上がっているので、フレームI9は、Pピクチャに変更される。
【0069】
以上のようにして、GOPシーケンス発生部15により指定されたピクチャタイプがIピクチャであるフレームの前後に、シーンチェンジや、符号量の多いフレームがない場合、静止画がかなり長い間連続していると判断する。
【0070】
そして、その間のPピクチャおよびBピクチャでは、インターモードばかりが選択されて符号化されているので画質が向上してきているため、当該Iピクチャと指定されたフレームをそのままIピクチャとしてイントラモードで符号化すると、エントロピーが増大し、発生符号量が一気に多くなり、バッファ占有率を押し上げることなる。その結果、定レート化コントローラ24は量子化ステップ幅を粗くし、エントロピーを減らして定レート化制御を行なうので、量子化ステップ幅が当該Iピクチャと、その直後で粗くなり、画質が劣化してしまう。そして、その後のインターフレームで静止画が連続するため、徐々に画質が良くなるというように、冒頭で述べたような現象が生じてしまう。
【0071】
この発明では、以上のような場合、Iピクチャとして指定されていたフレームのピクチャタイプは、Pピクチャに変更されるので、上記のような現象による画質の変化を防ぐことができる。
【0072】
なお、前述したように、以上のようなIピクチャからPピクチャへの変更が、規定回数を越えて行なわれるような場合には、伝送上、イントラモードの領域は復号化のためには必ず必要であるので、GOPコントローラ14から、符号量の極端な増加が起きないように1フレーム中の小さい範囲の適当な符号化領域を周期的に選択する制御信号が遅延手段19を通じて圧縮符号化部21に供給される。圧縮符号化部21では、この指定された小領域では量子化ステップ幅を細かくしたイントラ符号化モードで圧縮符号化を行なう。これにより、イントラ符号化領域の画質が上げられ、周りのインター符号化領域と比べて差異がないようにされる。
【0073】
なお、図3のフローチャートにおいて、ステップS8の処理は、必須のものではなく、ステップS6およびステップS7で静止画を検出したときには、IピクチャをPピクチャに変更するようにしてもよい。
【0074】
次に、定レート化コントローラ24での処理動作を図4のフローチャートを参照しながら説明する。
【0075】
まず、ステップS11でフレームの先頭を判別する。フレームの先頭になったら、ステップS12に進み、GOPコントローラ14により確定されたピクチャタイプの情報を読む。次に、ステップS13で最新ピクチャP0の見積り量E0を読み、記憶する。次に、ステップS14に進んで、バッファ占有量Beを読む。
【0076】
次に、ステップS15において、これから圧縮符号化するピクチャのフレーム(現ピクチャという)のターゲットビット数Tを、以下の変数を使用して算出する。
▲1▼ピクチャタイプTyp。
▲2▼バッファ占有量Be。
▲3▼現ピクチャPnから、最新ピクチャP0までの未来のピクチャPn,Pn−1,Pn−2,…,P0の発生符号見積り量En,En−1,En−2,…,E0。
【0077】
この場合、ターゲットビット数Tは、これらの関数、
T=f(Typ,Be,En,En−1,En−2,…,E0)
として、算出する。
【0078】
次に、ステップS16に進み、最小符号化制御可能領域であるマクロブロック分のデータの符号化を終了したか否かを判定し、終了したら次のステップS17に進む。
【0079】
このステップS17では、可変長符号化部22からの発生符号量を読む。次に、ステップS18に進んで、アクティビティを読む。次に、ステップS19に進み、現ピクチャの累積発生符号量を求める。そして、ステップS20に進み、圧縮符号化部21に与える量子化ステップ幅の情報を、ターゲットビット数Tと、発生符号量と、アクティビティ(マクロブロック単位)とから求める。そして、ステップS21において、求めた量子化ステップ幅の値を、圧縮符号化部21に対して出力する。
【0080】
次に、ステップS22において、前回処理終了したのはフレームの最後のマクロブロックであるか否か判断し、そうであればステップS11に戻り、次のフレームの先頭まで待ち、以上の処理を繰り返す。また、最後のマクロブロックでなければ、ステップS16に戻り、次のマクロブロックの処理まで待ち、ステップS16以降を繰り返す。
【0081】
なお、ステップS15でターゲットビット数を算出するための変数の例として挙げた変数は、最小限のものであり、これら以外の変数を用いても勿論よい。また、ステップS11とステップS16とでは、いわゆるボーリング手法でフレームパルスや、マクロブロック単位の処理時間と、ソフトウエアとの同期をとっているが、ボーリング手法とは別方法で割り込みを使用してもよい。
【0082】
なお、以上はMPEG1の場合として説明したが、MPEG2にも適用できることはいうまでもない。その場合には、フレーム単位ではなく、フィールド単位で発生符号量や見積り量を算出する場合もある。
【0083】
また、この発明は、MPEGに限らず、フレーム内符号化モードと、動き補償予測によるフレーム間符号化モードとを使用する他の符号化方法の場合にも、適用可能であることは言うまでもない。
【0084】
また、以上の例では、フレーム単位やフィールド単位で、つまり、IピクチャからPピクチャに変更する場合として説明したが、フレームやフィールドより小さい符号化領域単位、例えばスライスやマクロブロック単位で、イントラ符号化モードとインター符号化モードとの指定の変更を行なうようにする場合にも適用できる。その場合には、発生符号量見積り部17および可変長符号化部は、その変更を行なう符号化領域単位で発生符号量を計算するようにする。
【0085】
【発明の効果】
以上説明したように、この発明によれば、フレーム内符号化モードと、動き補償予測によるフレーム間符号化モードとを用いると共に、定レート化制御を行ないながら、リアルタイムで画像圧縮符号化を行なう画像符号化装置においても、動画中に静止画が続くようなシーンであっても、高画質の画像が得られる。
【図面の簡単な説明】
【図1】この発明による画像符号化装置の一実施例のブロック図である。
【図2】この発明による画像符号化装置の動作説明に用いるタイムチャートである。
【図3】図1の例の要部の処理動作の一例のフローチャートを示す図である。
【図4】図1の例の他の要部の処理動作の一例のフローチャートを示す図である。
【符号の説明】
12 シーンチェンジ検出部
13 ピクチャ順入れ替え部
14 GOPコントローラ
15 GOPシーケンス発生部
16 符号化モードおよび符号化ベクトル決定部
17 発生符号量見積り部
18 メモリ
21 圧縮符号化部
22 可変長符号化部
23 定レート化バッファ
24 定レート化コントローラ
Claims (12)
- 画面内符号化モードと、動き補償予測による画面間符号化モードとを用いると共に、予め設定された周期で前記画面内符号化モードで圧縮符号化すべき画面内符号化領域を選択し、リアルタイムで画像圧縮符号化を行なう画像符号化方法において、
実際の圧縮符号化に先立ち、前記画面内符号化領域における発生符号見積り量を、前記画面内符号化モードでのものと、前記画面間符号化モードを含む状態でのものとを算出すると共に、
前記画面内符号化領域が含まれるフレームが、シーンが変化する部分であるか否かを検出し、
前記画面内符号化モードでの発生符号見積り量と、前記画面間符号化モードを含む状態での発生符号見積り量との差が所定値よりも大きく、かつ、前記画面内符号化領域を含むフレームがシーンが変化する部分でもないと検出されたときには、前記画面内符号化領域に対する前記画面内符号化モードで圧縮符号化すべきとする選択指定を解除して、前記画面間符号化モードを含む符号化モードで圧縮符号化するように指定を変更するようにしたことを特徴とする画像符号化方法。 - 符号化領域単位の符号化モードとして、画面内符号化モードと動き補償予測による画面間符号化モードとのいずれかを指定すると共に、予め設定された周期で前記画面内符号化モードで圧縮符号化すべき画面内符号化領域を選択指定し、リアルタイムで画像圧縮符号化を行なう画像符号化方法において、
実際の圧縮符号化に先立ち、指定された符号化モードでの前記符号化領域単位の発生符号見積り量を、前記画面内符号化領域に先行する複数画面分に渡って算出し、当該算出した前記複数画面分に渡る前記符号化領域単位の発生符号見積り量の推移から動きが少ないシーンであるか否かを判別し、
前記画面内符号化領域が含まれるフレームがシーンが変化する部分であるか否かを検出し、
前記判別の結果、前記画面内符号化領域が含まれるフレームの過去の複数フレームは動きが少ないシーンであると判別され、かつ、前記符号化領域を含むフレームがシーンが変化する部分ではないと検出されたときには、前記画面内符号化領域に対する前記予め画面内符号化モードで圧縮符号化すべきとする選択指定を解除して、前記画面間符号化モードを含む符号化モードで圧縮符号化するように指定を変更するようにしたことを特徴とする画像符号化方法。 - 符号化領域単位の符号化モードとして、画面内符号化モードと動き補償予測による画面間符号化モードとのいずれかを指定すると共に、予め設定された周期で前記画面内符号化モードで圧縮符号化すべき画面内符号化領域を選択指定し、リアルタイムで画像圧縮符号化を行なう画像符号化方法において、
実際の圧縮符号化に先立ち、指定された符号化モードでの前記符号化領域単位の発生符号見積り量を、前記画面内符号化領域に先行する複数画面分に渡って算出し、当該算出した前記複数画面分に渡る前記符号化領域単位の発生符号見積り量の推移から動きが少ないシーンであるか否かを判別し、
前記画面内符号化領域が含まれるフレームがシーンが変化する部分であるか否かを検出し、
前記画面内符号化領域における発生符号見積り量を、前記画面内符号化モードでのものと、前記画面間符号化モードを含む状態でのものとを算出し、
前記判別の結果、前記画面内符号化領域が含まれるフレームの過去の複数フレームは動きが少ないシーンであると判別され、さらに、前記画面内符号化モードでの発生符号見積り量と、前記画面間符号化モードを含む状態での発生符号見積り量との差が所定値よりも大きく、かつ、前記画面内符号化領域を含むフレームがシーンが変化する部分でもないと検出されたときには、前記画面内符号化領域に対する前記画面内符号化モードで圧縮符号化すべきとする選択指定を解除して、前記画面間符号化モードを含む符号化モードで圧縮符号化するように指定を変更するようにしたことを特徴とする画像符号化方法。 - 請求項1、請求項2または請求項3のいずれかに記載の画像符号化方法において、
圧縮符号化した画像データについて定レート化制御を行なうようにしたことを特徴とする画像符号化方法。 - 請求項4に記載の画像符号化方法において、
定レート制御のためのバッファメモリのデータ占有量をも、前記指定の変更を決定するための参照情報として用いるようにしたことを特徴とする画像符号化方法。 - 請求項5に記載の画像符号化方法において、
定レート制御のためのバッファメモリのデータ占有量をも、前記指定の変更を決定するための参照情報として用いるようにしたことを特徴とする画像符号化方法。 - 画面内符号化モードと、動き補償予測による画面間符号化モードとを用いると共に、予め設定された周期で前記画面内符号化モードで圧縮符号化すべき画面内符号化領域を選択指定し、リアルタイムで画像圧縮符号化を行なう画像符号化装置であって、
圧縮符号化手段と、
前記圧縮符号化手段の前段に設けられ、前記画面内符号化領域が含まれるフレームがシーンが変化する部分であるか否かを検出するシーンチェンジ検出手段と、
前記圧縮符号化手段の前段に設けられ、前記画面内符号化領域における発生符号見積り量を、前記画面内符号化モードでのものと、前記画面間符号化モードを含む状態でのものとを算出する発生符号量見積り手段と、
前記発生符号量見積り手段で算出された前記画面内符号化モードでの発生符号見積り量と、前記画面間符号化モードを含む状態での発生符号見積り量との差が所定値よりも大きく、かつ、前記シーンチェンジ検出手段の検出出力により、前記画面内符号化領域を含むフレームがシーンが変化する部分でもないと検出されたときに、前記画面内符号化領域に対する前記画面内符号化モードで圧縮符号化すべきとする選択指定を解除して、前記画面間符号化モードを含む符号化モードで圧縮符号化するように指定を変更する指定変更手段と
を備えることを特徴とする画像符号化装置。 - 符号化領域単位の符号化モードとして、画面内符号化モードと動き補償予測による画面間符号化モードとのいずれかを指定すると共に、予め設定された周期で前記画面内符号化モードで圧縮符号化すべき画面内符号化領域を選択指定し、リアルタイムで画像圧縮符号化を行なう画像符号化装置であって、
圧縮符号化手段と、
前記圧縮符号化手段の前段に設けられ、前記画面内符号化領域が含まれるフレームがシーンが変化する部分であるか否かを検出するシーンチェンジ検出手段と、
前記圧縮符号化手段の前段に設けられ、指定された符号化モードでの前記符号化領域単位の発生符号見積り量を、前記画面内符号化領域に先行する複数画面分に渡って算出する発生符号量見積り手段と、
前記発生符号量見積り手段で算出された前記複数画面分に渡る前記符号化領域単位の発生符号見積り量の推移から動きが少ないシーンであるか否かを判別する判別手段と、
前記判別手段で、前記画面内符号化領域が含まれるフレームの過去の複数フレームは、動きが少ないシーンであると判別され、かつ、前記シーンチェンジ検出手段で、前記画面内符号化領域を含むフレームがシーンが変化する部分でないと検出されたときに、前記画面内符号化領域に対する前記画面内符号化モードで圧縮符号化すべきとする選択指定を解除して、前記画面間符号化モードを含む符号化モードで圧縮符号化するように指定を変更する指定変更手段と
を備えることを特徴とする画像符号化装置。 - 符号化領域単位の符号化モードとして、画面内符号化モードと動き補償予測による画面間符号化モードとのいずれかを指定すると共に、予め設定された周期で前記画面内符号化モードで圧縮符号化すべき画面内符号化領域を選択指定し、リアルタイムで画像圧縮符号化を行なう画像符号化装置であって、
圧縮符号化手段と、
前記符号化領域単位のそれぞれについて、画面内符号化モードと画面間符号化モードとのいずれの符号化モードで符号化を行なうかを仮に指定する指定情報発生手段と、
前記圧縮符号化手段の前段に設けられ、前記画面内符号化領域が含まれるフレームがシーンが変化する部分であるか否かを検出するシーンチェンジ検出手段と、
前記圧縮符号化手段の前段に設けられ、指定された符号化モードでの前記符号化領域単位の発生符号見積り量を算出すると共に、前記画面内符号化領域においては、前記画面内符号化モードでの発生符号見積り量と、前記画面間符号化モードを含む状態での発生符号見積り量とを算出する発生符号量見積り手段と、
前記発生符号量見積り手段で算出された前記画面内符号化領域に先行する複数画面分に渡る前記符号化領域単位の発生符号見積り量の推移から動きが少ないシーンであるか否かを判別する第1の判別手段と、
前記発生符号量見積り手段で算出された前記画面内符号化領域についての前記画面内符号化モードでの発生符号見積り量と、前記画面間符号化モードを含む状態での発生符号見積り量との差が所定値よりも大きいか否かを判別する第2の判別手段と、
前記第1の判別手段で、前記画面内符号化領域が含まれるフレームの過去の複数フレームは、動きが少ないシーンであると判別されると共に、前記第2の判別手段で前記画面内符号化モードでの発生符号見積り量と、前記画面間符号化モードを含む状態での発生符号見積り量との差が所定値よりも大きいと判別され、前記シーンチェンジ検出手段の検出出力により、前記画面内符号化領域を含むフレームがシーンが変化する部分でもないと検出されたときに、前記画面内符号化領域に対する前記画面内符号化モードで圧縮符号化すべきとする選択指定を解除して、前記画面間符号化モードを含む符号化モードで圧縮符号化するように指定を変更する指定変更手段と
を備えることを特徴とする画像符号化装置。 - 請求項7、請求項8または請求項9のいずれかに記載の画像符号化装置において、
前記圧縮符号化手段の後段に、
バッファメモリと、
このバッファメモリからのデータ占有量の情報に基づいて前記圧縮符号化手段の量子化特性を制御して、前記バッファメモリから出力されるデータの伝送レートを一定に制御する制御手段とを設ける
ようにしたことを特徴とする画像符号化装置。 - 請求項10に記載の画像符号化装置において、
前記バッファ占有量の情報を前記指定変更手段に供給し、
前記指定変更手段は、前記シーンチェンジ検出手段の検出出力と、前記発生符号量見積り手段から得られる発生符号見積り量と、前記バッファ占有量に基づいて、前記予めフレーム内符号化モードで圧縮符号化するように選択された符号化領域を、そのままフレーム内符号化モードで圧縮符号化を行なわせるか否かを決定するようにしたことを特徴とする画像符号化装置。 - 請求項7、請求項8または請求項9のいずれかに記載の画像符号化装置において、
前記符号化領域より小さい領域を、周期的に選択して、当該小領域では、強制的にフレーム内符号化モードで圧縮符号化するように指定する手段を備えることを特徴とする画像符号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12722195A JP3661711B2 (ja) | 1995-04-27 | 1995-04-27 | 画像符号化方法および装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12722195A JP3661711B2 (ja) | 1995-04-27 | 1995-04-27 | 画像符号化方法および装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH08307878A JPH08307878A (ja) | 1996-11-22 |
JP3661711B2 true JP3661711B2 (ja) | 2005-06-22 |
Family
ID=14954729
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP12722195A Expired - Fee Related JP3661711B2 (ja) | 1995-04-27 | 1995-04-27 | 画像符号化方法および装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3661711B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3209210B2 (ja) | 1999-02-10 | 2001-09-17 | 日本電気株式会社 | 動画像圧縮方法、動画像圧縮装置及び動画像圧縮プログラムを記憶した記憶媒体 |
US20020021756A1 (en) * | 2000-07-11 | 2002-02-21 | Mediaflow, Llc. | Video compression using adaptive selection of groups of frames, adaptive bit allocation, and adaptive replenishment |
JP2002084544A (ja) * | 2000-09-06 | 2002-03-22 | Mitsubishi Electric Corp | 動画像符号化装置および動画像符号化方法 |
-
1995
- 1995-04-27 JP JP12722195A patent/JP3661711B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH08307878A (ja) | 1996-11-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3954656B2 (ja) | 画像符号化装置及び方法 | |
JP3871840B2 (ja) | 圧縮動画像再符号化装置 | |
KR101089325B1 (ko) | 디지털 화상 시퀀스를 위한 인코딩 방법, 디코딩 방법 및 인코딩 장치 | |
JP4344476B2 (ja) | 3:2プルダウンビデオ情報を含むビデオ情報ストリームの適応エンコーディング速度制御を実行する方法および装置 | |
WO2000018137A1 (en) | Frame-level rate control for video compression | |
WO2004021704A1 (en) | Bit rate control for motion compensated video compression system | |
EP1086593A1 (en) | Sequence adaptive bit allocation for pictures encoding | |
JP3259702B2 (ja) | 動画像可変ビットレート符号化装置および方法 | |
US20100002765A1 (en) | Image encoding apparatus and method | |
JP4257655B2 (ja) | 動画像符号化装置 | |
KR100588795B1 (ko) | 부호화 장치 및 부호화 방법 | |
JP3641214B2 (ja) | 動画像符号化装置および動画像符号化方法 | |
JP4362795B2 (ja) | 動画像符号化装置及びその方法 | |
JP3173369B2 (ja) | 画像圧縮符号化装置 | |
JP3450384B2 (ja) | 動画像符号化装置 | |
JP3661711B2 (ja) | 画像符号化方法および装置 | |
JPH0998427A (ja) | 動画像符号化装置 | |
JPH09284770A (ja) | 画像符号化装置および方法 | |
JP3480067B2 (ja) | 画像符号化装置及び方法 | |
Horne et al. | Video coding with adaptive quantization and rate control | |
JP2002010270A (ja) | 画像符号化装置及び画像符号化方法 | |
JP3812269B2 (ja) | 動画像符号化装置及びその方法 | |
JP2002199408A (ja) | 動画像符号化方法および動画像符号化装置 | |
JP4718736B2 (ja) | 動画像符号化装置 | |
JP3690259B2 (ja) | 動画像高速符号化装置及び動画像高速符号化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040825 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041022 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041124 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050114 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050302 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050315 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080401 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090401 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100401 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100401 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110401 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |