JP3507532B2 - Moving image encoding method and apparatus - Google Patents

Moving image encoding method and apparatus

Info

Publication number
JP3507532B2
JP3507532B2 JP24553093A JP24553093A JP3507532B2 JP 3507532 B2 JP3507532 B2 JP 3507532B2 JP 24553093 A JP24553093 A JP 24553093A JP 24553093 A JP24553093 A JP 24553093A JP 3507532 B2 JP3507532 B2 JP 3507532B2
Authority
JP
Japan
Prior art keywords
frame
coding
scene change
mode
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP24553093A
Other languages
Japanese (ja)
Other versions
JPH07107483A (en
Inventor
健 中條
政巳 赤嶺
敏明 渡邊
秀幸 上野
公生 三関
義浩 菊池
孝 井田
進 神庭
正浩 押切
昇 山口
皇 天田
陽子 宮川
岳彦 籠嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP24553093A priority Critical patent/JP3507532B2/en
Publication of JPH07107483A publication Critical patent/JPH07107483A/en
Application granted granted Critical
Publication of JP3507532B2 publication Critical patent/JP3507532B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】この発明は動画像信号を圧縮符号
化する動画像符号化技術に係り、特にATM網に適した
動画像符号化方法及び装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a moving picture coding technique for compressing and coding a moving picture signal, and more particularly to a moving picture coding method and apparatus suitable for an ATM network.

【0002】[0002]

【従来の技術】画像、音声、データといったマルチメデ
ィア情報をセルと呼ばれる固定長パケットに乗せて転送
/交換を行うATM(非同期転送モード)網の研究・開
発が進められている。ATM網によって動画像の情報を
伝送する場合、動画像信号を圧縮符号化する動画像符号
化装置が使用される。動画像信号の圧縮符号化方式とし
ては、入力される動画像信号と動き補償予測により得ら
れた予測画像信号との差分である予測残差信号を符号化
(フレーム間符号化)して伝送する動き補償適応予測符
号化方式が知られている。
2. Description of the Related Art Research and development of an ATM (asynchronous transfer mode) network in which multimedia information such as image, voice and data is transferred / exchanged by carrying fixed length packets called cells is under way. When transmitting information of a moving picture by an ATM network, a moving picture coding apparatus for compressing and coding a moving picture signal is used. As a compression coding method of a moving image signal, a prediction residual signal which is a difference between an input moving image signal and a predicted image signal obtained by motion compensation prediction is coded (interframe coding) and transmitted. A motion compensation adaptive predictive coding system is known.

【0003】ところで、ATM網では通信路で誤りが生
じた場合や、セルが網内で輻輳した場合に、伝送したセ
ルの一部が交換機内で廃棄される、セルロスと呼ばれる
現象が発生する。このセルロスに対しての一般的な対策
は種々存在するが、上述したような動画像符号化装置で
動画像情報を伝送する場合、符号化装置側で画面内に周
期的にフレーム内符号化を行う画素領域を設定して画面
をリフレッシュする手法と、フレーム間の相関性を利用
してコンシールメントする手法がある。
By the way, in an ATM network, when an error occurs in a communication path or when cells are congested in the network, a phenomenon called cell loss occurs in which some of the transmitted cells are discarded in the exchange. There are various general measures against this cell loss, but when transmitting moving image information with the moving image encoding device as described above, the encoding device periodically performs intraframe encoding within the screen. There are a method of setting the pixel area to be performed and refreshing the screen, and a method of concealing by utilizing the correlation between frames.

【0004】前者のリフレッシュ手法については、例え
ば、MPEG2の標準化作業において検討されている I
SO-IEC/JTC1/SC29/WG11 MPEG/225b Test Model 4では、
マクロブロックと呼ばれる16画素×16画素の単位で
フレーム内符号化とフレーム間符号化が切り替えられる
ようになっている。具体的には、図5に示すように縦3
0マクロブロック×横44マクロブロックで構成される
1フレームのうち、斜線で示される横2行のマクロブロ
ック(縦2マクロブロック×横44マクロブロック)か
らなる領域をフレーム内符号化し、このフレーム内符号
化領域を1フレーム毎に2行ずつスライドさせて、15
フレームで1周期となるイントラスライスと呼ばれるリ
フレッシュ方式が提案されている。
The former refresh method is being studied in the standardization work of MPEG2, for example.
In SO-IEC / JTC1 / SC29 / WG11 MPEG / 225b Test Model 4,
Intra-frame coding and inter-frame coding can be switched in units of 16 pixels × 16 pixels called a macro block. Specifically, as shown in FIG.
In one frame composed of 0 macroblocks x 44 horizontal macroblocks, a region consisting of horizontal 2 rows of macroblocks (2 vertical macroblocks x 44 horizontal macroblocks) indicated by diagonal lines is intra-frame coded and Slide the coding area by 2 lines for each frame,
A refresh method called intra slice in which one cycle is one frame has been proposed.

【0005】イントラスライス方式では、図5に示され
るように、領域1でフレーム間符号化を行う場合には、
動きベクトルの探索範囲を既にリフレッシュされていな
い領域2から行わないように制限することで、上述した
セルロスの発生によりあるフレームに誤りが生じても、
その誤りの影響が除去されたリフレッシュが行われるよ
うに、最悪でも図4に示されるように、イントラスライ
スの2周期で完全にフレーム内符号化によって画面がリ
フレッシュされることを保証している。
In the intra slice method, as shown in FIG. 5, when interframe coding is performed in the area 1,
By limiting the search range of the motion vector not to start from the region 2 that has not been refreshed, even if an error occurs in a certain frame due to the occurrence of the above cell loss,
As shown in FIG. 4, at worst, it is guaranteed that the screen is completely refreshed by the intraframe coding in two cycles of the intra slice so that the effect of the error is removed and the refresh is performed.

【0006】一方、後者のコンシールメント手法は、フ
レーム間の相関が高い時には非常に有効であるが、シー
ンチェンジの場合のようにフレーム間の相関が低い場合
には有効でない。
On the other hand, the latter concealment method is very effective when the correlation between frames is high, but is not effective when the correlation between frames is low as in the case of a scene change.

【0007】従って、例えばシーンチェンジ時のフレー
ム間の相関の低い領域でセルロスが発生した場合、コン
シールメント手法は有効でなく、またリフレッシュ手法
では図4に示されるように、誤りから完全に回復するの
に最悪2周期も時間がかかってしまうという問題点が生
じることになる。
Therefore, for example, when cell loss occurs in a region where the correlation between frames is low at the time of a scene change, the concealment method is not effective and the refresh method completely recovers from an error as shown in FIG. However, at worst, two cycles will take a long time.

【0008】シーンチェンジのフレームでのセルロスに
ついてのもう一つの問題点は、シーンチェンジのフレー
ムはフレーム内符号化(イントラ符号化)が行われる割
合が高いため、動画像符号化装置の発生符号量がフレー
ム間符号化のフレームの2倍以上ある場合が多く、同じ
セルロス発生率ならばシーンチェンジ直後のフレームの
セルロス発生確率はフレーム間符号化のフレームの2倍
以上になってしまうことである。
Another problem with the cell loss in the scene change frame is that the rate of intra-frame coding (intra coding) of the scene change frame is high, so that the amount of codes generated by the moving picture coding apparatus is high. Is often twice or more than the inter-frame coded frame, and if the cell loss occurrence rate is the same, the cell loss occurrence probability of the frame immediately after the scene change is twice or more that of the inter-frame coded frame.

【0009】[0009]

【発明が解決しようとする課題】上述したように、動画
像符号化装置をATM網に適用した場合のセルロス対策
として従来考えられているリフレッシュ手法およびコン
シールメント手法は、シーンチェンジ時のフレーム間の
相関の低い領域で発生するセルロスに対して、前者は誤
りから回復するのに時間がかかるという問題があり、ま
た後者は有効なセルロス対策がとれないという問題があ
った。
As described above, the refresh method and the concealment method conventionally considered as a cell loss countermeasure when the moving picture coding apparatus is applied to the ATM network are between the frames at the scene change. For the cell loss occurring in the low correlation region, the former has a problem that it takes time to recover from an error, and the latter has a problem that effective cell loss countermeasures cannot be taken.

【0010】本発明は、シーンチェンジによってフレー
ム間の相関が低いために生じるイントラ符号化領域での
セルロスの発生確率を低減して、セルロスに対して速や
かに誤りから回復できる動画像符号化方法及び装置を提
供することを目的とする。
[0010] The present invention is to reduce the probability of cell loss in the intra-coding region generated due to low correlation between frames by a scene change, the moving picture coding method and can quickly recover from the error with respect to cell loss The purpose is to provide a device.

【0011】[0011]

【課題を解決するための手段】上記の課題を解決するた
め、本発明は入力動画像信号をイントラ符号化モードま
たはインター符号化モードのいずれかから選択された符
号化モードによって符号化する方法であって、前記入力
動画像信号の画面内に周期的に前記イントラ符号化モー
ドの領域を設定して該領域を画面毎に移動させるリフレ
ッシュ動作を行い、前記インター符号化モードでは動き
ベクトルの探索範囲を前記リフレッシュ動作が既になさ
れた領域に制限する動画像符号化方法において、前記符
号化モードの選択状態に基づいて前記入力動画像信号の
各フレームについてシーンチェンジが生じているか否か
の判定を行い、シーンチェンジが生じていると判定され
たとき、該シーンチェンジが生じていると判定されたフ
レームの直後のリフレッシュ動作をフレームの端から
行うように前記リフレッシュ動作の周期を変更すること
を特徴とする。ここで、イントラ符号化はフレーム内符
号化またはフィールド内符号化の意味であり、またイン
ター符号化はフレーム間符号化またはフィールド間符号
化の意味である。また、本発明に係る動画像符号化装置
は、入力動画像信号をイントラ符号化する符号化モード
とインター符号化する符号化モードを有する符号化手段
と、この符号化手段の符号化モードを選択するモード選
択手段と、このモード選択手段によるモード選択状態に
基づいて前記入力動画像信号の各フレームについてシー
ンチェンジが生じているか否かの判定を行うシーンチェ
ンジ判定手段とを備え、前記モード選択手段は、前記入
力動画像信号のフレーム内に周期的に前記イントラ符号
化モードの領域を設定して該領域を画面毎に移動させる
リフレッシュ動作を行い、前記シーンチェンジ判定手段
によってシーンチェンジが生じていると判定されたと
き、該シーンチェンジが生じていると判定されたフレー
ムの直後のリフレッシュ動作をフレームの端から行うよ
うにリフレッシュ動作の周期を変更するものであり、前
記符号化手段は、前記インター符号化モードにおける動
きベクトルの探索範囲を前記リフレッシュ動作が既にな
された領域に制限するものであることを特徴とする。
To solve the above problems SUMMARY OF THE INVENTION The present invention is a method of encoding by the selected coding mode from any of the input video signal intra coding mode or an inter coding mode Yes, the input
The intra-coding mode is periodically displayed in the screen of the moving image signal.
Area to be set and the area to be moved for each screen.
And the motion in the inter coding mode.
The refresh operation has already been performed for the vector search range.
In the moving picture coding method for limiting the area to a limited area, it is determined whether or not a scene change has occurred for each frame of the input moving picture signal based on the selected state of the coding mode. when it is determined that there, and changes the period of the refresh operation to perform the refresh operation from the upper end of the frame immediately following the frame determined as the scene change has occurred. Here, the intra coding means the intra-frame coding or the intra-field coding, and the inter coding means the inter-frame coding or the inter-field coding. Further, the moving picture coding apparatus according to the present invention selects a coding means having a coding mode for intra-coding an input moving picture signal and a coding mode for inter-coding, and a coding mode of the coding means. And a scene change determination means for determining whether or not a scene change has occurred for each frame of the input moving image signal based on the mode selection state by the mode selection means. Is the intra code periodically in the frame of the input video signal.
Performs a refresh operation to move the screen each of the region by setting the space of the modes, when it is determined to be occurring a scene change by the scene change determination means, it is determined that the scene change has occurred and it is intended to change the period of the refresh operation to perform the refresh operation from the end of the frame immediately after the frame, before
The coding means operates in the inter coding mode.
The search range of the vector
It is characterized in that it is limited to a limited area .

【0012】[0012]

【0013】[0013]

【0014】[0014]

【作用】本発明では、符号化モードの選択状態によって
シーンチェンジが判定される。シーンチェンジ時には、
イントラ符号化領域の割合が多くなるため、イントラ符
号化領域が所定の割合以上存在するフレームにおいて、
シーンチェンジが生じたと判定することができる。こう
してシーンチェンジが生じたと判定されると、リフレッ
シュ動作の周期が変更され、例えばシーンチェンジ動作
周期が初期化されることにより、シーンチェンジはフレ
ームの端から開始される。このようにすると、シーンチ
ェンジのフレーム、つまりイントラ符号化領域にセルロ
スが発生した場合でも、動きベクトル探索範囲を既に
リフレッシュされた領域に制限することにより、セルロ
スによる誤りの影響が伝搬する範囲は最悪でも1周期で
済むことになる。
In the present invention, the scene change is determined by the selected state of the coding mode. When changing scenes,
Since the ratio of intra-coded areas is large, in a frame in which the intra-coded areas are equal to or greater than a predetermined ratio,
It can be determined that a scene change has occurred . When it is thus determined that a scene change has occurred , the refresh operation cycle is changed, and, for example, the scene change operation cycle is initialized, so that the scene change is started from the end of the frame. By doing this, even if a cell loss occurs in the scene change frame, that is, in the intra-coded area, by limiting the search range of the motion vector to the already refreshed area, the range in which the effect of the error due to the cell loss propagates is limited. At worst, one cycle is enough.

【0015】このようにシーンチェンジのフレームでセ
ルロスが発生した場合でも、速やかに誤りから回復する
ことができる。
Thus, even if cell loss occurs in a scene change frame, it is possible to quickly recover from an error.

【0016】[0016]

【0017】[0017]

【0018】[0018]

【0019】[0019]

【実施例】以下、図面を参照して本発明の実施例を説明
する。 (実施例1)図1は、本発明の一実施例に係る動画像符
号化装置の構成を示すブロック図である。同図におい
て、入力端子10にはインターレースされた動画像信
号、すなわち2フィールドで1フレームが構成される動
画像信号が入力される。この入力動画像信号は、まずフ
ィールドマージ回路11でフレームに合成された後、符
号化部12に入力される。
Embodiments of the present invention will be described below with reference to the drawings. (Embodiment 1) FIG. 1 is a block diagram showing the configuration of a moving picture coding apparatus according to an embodiment of the present invention. In the figure, an interlaced moving image signal, that is, a moving image signal in which one frame is composed of two fields is input to the input terminal 10. The input moving image signal is first combined into a frame by the field merge circuit 11 and then input to the encoding unit 12.

【0020】符号化部12に入力された動画像信号は、
まずブロック化回路13によりマクロブロックに分割さ
れる。マクロブロックに分割された入力動画像信号は減
算器14に入力され、ここで後述するようにして生成さ
れる予測画像信号との差分がとられることにより、予測
残差信号が生成される。この予測残差信号とブロック化
回路13からの入力動画像信号のいずれか一方がモード
選択スイッチ15によって選択され、DCT(離散コサ
イン変換)回路16により離散コサイン変換される。D
CT回路16で得られたDCT係数データは、量子化回
路17で量子化される。量子化器17で量子化された信
号は2分岐され、一方は符号化部12の出力側に設けら
れた可変長符号化回路27に導かれる。
The moving image signal input to the encoding unit 12 is
First, the blocking circuit 13 divides into macroblocks. The input moving image signal divided into macroblocks is input to the subtracter 14, and the difference between the input moving image signal and the predicted image signal generated as described later is calculated to generate a prediction residual signal. Either one of the prediction residual signal and the input moving image signal from the blocking circuit 13 is selected by the mode selection switch 15 and is discrete cosine transformed by the DCT (discrete cosine transform) circuit 16. D
The DCT coefficient data obtained by the CT circuit 16 is quantized by the quantization circuit 17. The signal quantized by the quantizer 17 is branched into two, and one of them is guided to the variable length coding circuit 27 provided on the output side of the coding unit 12.

【0021】一方、量子化回路17で量子化され2分岐
された信号の他方は、逆量子化回路18およびIDCT
(逆離散コサイン変換)回路19により、量子化回路1
7およびDCT回路16の処理と逆の処理を順次受けた
後、加算器20においてスイッチ23を介して入力され
る予測画像信号と加算されることによって、局部復号信
号が生成される。この局部復号信号はフレームメモリ2
1を経て動き補償回路22に入力され、予測画像信号が
生成される。
On the other hand, the other of the signals quantized by the quantization circuit 17 and branched into two is the inverse quantization circuit 18 and the IDCT.
The (inverse discrete cosine transform) circuit 19 allows the quantization circuit 1
7 and the processing of the DCT circuit 16 which is the reverse of the above processing, the adder 20 adds the predicted image signal input via the switch 23 to generate a locally decoded signal. This locally decoded signal is stored in the frame memory 2
It is input to the motion compensation circuit 22 via 1 and a predicted image signal is generated.

【0022】ここで、動き補償回路22は図5に示され
るように、既にリフレッシュされた領域1についてはリ
フレッシュ前からの動き補償を禁止して、予測画像信号
を生成する。
Here, as shown in FIG. 5, the motion compensating circuit 22 prohibits the motion compensation before the refreshing for the already refreshed region 1, and generates the predicted image signal.

【0023】符号化制御回路26は、符号化部12から
の符号化情報や後述する出力バッファ30でのバッファ
量Bの情報などを基に符号化部12を制御するととも
に、所定の付加情報、例えば動きベクトルや符号化モー
ド情報などを可変長符号化回路28へ送る。この可変長
符号化回路28で符号化された付加情報と、可変長符号
化回路27で符号化された量子化DCT係数データは、
多重化回路29で多重化された後、出力バッファ30で
一定の出力レートに平滑化され、さらにセル化回路31
によってヘッダ情報が付加された所定のATMセルフォ
ーマットのセルに組み立てられ、伝送路へ送出される。
The coding control circuit 26 controls the coding unit 12 based on the coding information from the coding unit 12 and the information of the buffer amount B in the output buffer 30 which will be described later. For example, the motion vector and the coding mode information are sent to the variable length coding circuit 28. The additional information coded by the variable length coding circuit 28 and the quantized DCT coefficient data coded by the variable length coding circuit 27 are
After being multiplexed by the multiplexing circuit 29, it is smoothed to a constant output rate by the output buffer 30 and further cell-ized circuit 31.
Then, the cells are assembled into a cell of a predetermined ATM cell format to which header information is added, and the cell is sent to the transmission line.

【0024】符号化部12には、さらにモード選択回路
24とシーンチェンジ判定回路25が設けられている。
モード選択回路24は、マクロブロック単位に動き補償
回路22からの予測情報Pに基づいてフレーム内符号化
を行うマクロブロックとフレーム間符号化を行うマクロ
ブロックとを選択する。フレーム内符号化を行う場合
は、モード選択スイッチ情報MをAとし、スイッチ情報
SをAとする。また、フレーム間符号化を行う場合は、
モード選択スイッチ情報MをBとし、スイッチ情報Sを
Bとする。
The encoding unit 12 is further provided with a mode selection circuit 24 and a scene change determination circuit 25.
The mode selection circuit 24 selects, for each macroblock, a macroblock for intraframe coding and a macroblock for interframe coding based on the prediction information P from the motion compensation circuit 22. When the intra-frame coding is performed, the mode selection switch information M is A and the switch information S is A. Also, when performing inter-frame coding,
The mode selection switch information M is B, and the switch information S is B.

【0025】モード選択スイッチ15は、モード選択ス
イッチ情報Mに従ってフレーム内符号化を行う場合はA
側に、フレーム間符号化を行う場合はB側にそれぞれ切
り替えられる。スイッチ23は、スイッチ情報Sに従っ
てモード選択スイッチ15と同様にフレーム内符号化を
行う場合はA側に、フレーム間符号化を行う場合はB側
にそれぞれ切り替えられる。
The mode selection switch 15 is set to A when performing intra-frame coding according to the mode selection switch information M.
To the B side when performing interframe coding. The switch 23 is switched according to the switch information S to the A side when performing intra-frame coding, and to the B side when performing inter-frame coding, similarly to the mode selection switch 15.

【0026】シーンチェンジ判定回路25は、モード選
択回路24からのモード選択情報SMを基に、フレーム
内符号化するマクロブロック(以下、イントラマクロブ
ロック)というの数が予め設定された所定値以上である
場合には、そのフレームはシーンチェンジであると判定
して、シーンチェンジ判定情報SDをONにする。シー
ンチェンジ判定情報SDは、モード選択回路24に入力
される。
The scene change judging circuit 25 determines, based on the mode selection information SM from the mode selecting circuit 24, that the number of macroblocks to be intra-coded (hereinafter referred to as intra macroblocks) is a predetermined value or more. In some cases, it is determined that the frame is a scene change, and the scene change determination information SD is turned on. The scene change determination information SD is input to the mode selection circuit 24.

【0027】図2は、本実施例における入力動画像信号
が1フレーム入力される毎のモード選択回路24とシー
ンチェンジ判定回路25の動作を示すフローチャートで
ある。図中、破線で囲んだ部分はシーンチェンジ判定回
路25の動作を示し、それ以外の部分はモード選択回路
24の動作を示している。
FIG. 2 is a flow chart showing the operation of the mode selection circuit 24 and the scene change determination circuit 25 each time one frame of the input moving image signal is input in this embodiment. In the figure, the part surrounded by the broken line shows the operation of the scene change determination circuit 25, and the other parts show the operation of the mode selection circuit 24.

【0028】まず、モード選択回路24ではリフレッシ
ュ周期をカウントするカウンタ値Nを0で初期化する
(S101)。シーンチェンジ判定回路25では、フレ
ーム内の予測情報Pに基づくイントラマクロブロック数
を表すカウンタ値IMを0で初期化し、シーンチェンジ
判定情報SDをOFFにセットする(S102)。
First, the mode selection circuit 24 initializes the counter value N for counting the refresh cycle to 0 (S101). The scene change determination circuit 25 initializes a counter value IM representing the number of intra macroblocks based on the prediction information P in the frame to 0 and sets the scene change determination information SD to OFF (S102).

【0029】ループ1とループ2の中で、フレーム内の
マクロブロックのモード判定とシーンチェンジの判定を
行う。ここで、iとjはフレーム内の横方向と縦方向の
マクロブロックのアドレスをそれぞれ表し、MB_Ro
wとMB_Columnはフレーム内の縦方向と横方向
のマクロブロック数をそれぞれ表す。
In loop 1 and loop 2, mode determination and scene change determination of macroblocks in a frame are performed. Here, i and j represent the addresses of the horizontal and vertical macroblocks in the frame, respectively, and MB_Ro
w and MB_Column represent the numbers of macroblocks in the vertical and horizontal directions in the frame, respectively.

【0030】動き補償回路22からの予測情報PがIN
TRAかどうか、つまりフレーム内符号化を行うかどう
かを判定し(S105)、この判定の結果、INTRA
ならばリフレッシュに関係なくモード選択スイッチ情報
MにB、スイッチ情報SにBをそれぞれ代入する(S1
09)。このとき、シーンチェンジ判定回路25はIM
の数を1増やしてその値を判定し(S110〜S11
1)、IMの値がしきい値εより大きければシーンチェ
ンジ判定情報SDをONにする(S112)。
The prediction information P from the motion compensation circuit 22 is IN
It is determined whether or not it is TRA, that is, whether or not intraframe coding is performed (S105), and the result of this determination is INTRA.
Then, B is assigned to the mode selection switch information M and B is assigned to the switch information S regardless of refresh (S1).
09). At this time, the scene change determination circuit 25 displays the IM
Is incremented by 1 and the value is determined (S110-S11
1) If the value of IM is larger than the threshold value ε, the scene change determination information SD is turned on (S112).

【0031】一方、S105において予測情報PがIN
TRAでないと判定された場合、つまり基本的にフレー
ム間符号化を行う場合は、カウンタ値Nをスライド数倍
(ここでは2倍)したものを1フレームの横のマクロブ
ロック数MB_Columnで割った余り、つまり(N
×2)modMB_Columnがiの値に一致する
か、あるいはカウンタ値Nをスライド数倍したものに1
を足した値をMB_Columnで割った余り、つまり
(N×2+1)modMB_Columnがiに一致す
るかどうかを判定する(S106)。そして、一致した
場合は強制的にフレーム内符号化を行うと判断し、モー
ド選択スイッチ情報MにA、スイッチ情報SにAをそれ
ぞれ代入し(S107)。一致しない場合はフレーム間
符号化を行うと判断し、モード選択情報MにB、スイッ
チ情報SにBをそれぞれ代入する(S108)。
On the other hand, the prediction information P is IN in S105.
If it is determined not to be TRA, that is, basically when interframe coding is performed, the remainder obtained by multiplying the counter value N by the number of slides (twice here) divided by the number of macroblocks MB_Column on the side of one frame , That is (N
X2) 1 if the value of modMB_Column matches the value of i or the counter value N is multiplied by the number of slides.
It is determined whether or not the remainder obtained by adding the value is divided by MB_Column, that is, (N × 2 + 1) modMB_Column matches i (S106). When they match, it is determined that the intraframe coding is forcibly performed, and A is assigned to the mode selection switch information M and A is assigned to the switch information S (S107). If they do not match, it is determined that interframe coding is to be performed, and B is assigned to the mode selection information M and B to the switch information S (S108).

【0032】入力動画像信号の1フレームについて以上
の処理が終了した後、シーンチェンジ判定情報SDがO
Nかどうかを判定し(S113)、ONならばNの値を
0で初期化し(S114)、そうでなければNを1増や
し、(N+1)mod(MB−Row/2)の値(N+
1をリフレッシュの1周期の値で割った余り)でNを置
き換える(S115)。
After the above processing is completed for one frame of the input moving image signal, the scene change determination information SD becomes O.
It is determined whether or not it is N (S113). If it is ON, the value of N is initialized to 0 (S114). If not, N is incremented by 1 and the value of (N + 1) mod (MB-Row / 2) (N +
N is replaced by 1 (a remainder obtained by dividing the value by one refresh period) (S115).

【0033】図3は、本実施例においてリフレッシュ周
期が変更される様子の一例を示している。イントラスラ
イスの場合、シーンチェンジの直後のフレームでは、リ
フレッシュ周期を変更してフレームの1番上の端からリ
フレッシュするようにすることで、誤りの及ぶ範囲を最
大1周期に抑えることができることが図3から明らかで
ある。
FIG. 3 shows an example of how the refresh cycle is changed in this embodiment. In the case of intra slice, it is possible to limit the error range to a maximum of 1 cycle by changing the refresh cycle and refreshing from the top edge of the frame immediately after the scene change. It is clear from 3.

【0034】本実施例を従来の場合を示した図5と比較
すると、シーンチェンジのフレームが存在すると、その
期間のリフレッシュ周期が短くなり、イントラマクロブ
ロックの割合が多くなる。しかし、従来のコンシールメ
ント手法が有効でないシーンチェンジのフレームでセル
ロスが発生しても、誤りの伝播する範囲は最大で1周期
であり、本発明の有効性は明らかである。
When the present embodiment is compared with FIG. 5 showing the conventional case, the presence of a scene change frame shortens the refresh cycle during that period and increases the ratio of intra macroblocks. However, even if cell loss occurs in a scene change frame for which the conventional concealment method is not effective, the range of error propagation is one cycle at the maximum, and the effectiveness of the present invention is clear.

【0035】なお、上記実施例ではフレームを単位とす
る符号化を行った場合について説明を行ったが、フィー
ルド単位での符号化にも本発明を適用できることはいう
までもない。要するに、入力動画像信号をイントラ符号
化(フレーム内符号化またはフィールド内符号化)する
モードとインター符号化(フレーム間符号化またはフィ
ールド間符号化)するモードを選択できるような動画像
符号化装置であれば、本発明を適用することができる。
In the above embodiment, the case where the encoding is performed in units of frames has been described, but it goes without saying that the present invention can be applied to the encoding in units of fields. In short, a moving picture coding apparatus capable of selecting a mode of intra-coding (intra-frame coding or intra-field coding) and an inter-coding (inter-frame coding or inter-field coding) of an input moving picture signal. If so, the present invention can be applied.

【0036】(実施例2)図6は、本発明の他の実施例
に係る動画像符号化装置の構成を示すブロック図であ
る。図1と同一部分に同一符号を付して、実施例1との
相違点を中心に説明する。
(Embodiment 2) FIG. 6 is a block diagram showing the structure of a moving picture coding apparatus according to another embodiment of the present invention. The same parts as those in FIG. 1 are designated by the same reference numerals, and description will be made centering on differences from the first embodiment.

【0037】図6において、入力端子10に入力される
インターレースされた動画像信号は二分岐され、一方は
フレーム/フィールドスイッチ61に、他方はシーンチ
ェンジ検出回路62にそれぞれ入力される。フレーム/
フィールドスイッチ61は、シーンチェンジ検出回路6
2から出力されるシーンチェンジ検出情報SCによって
制御され、このシーンチェンジ検出情報SCを基に入力
動画像信号がフレーム単位で入力されるかフィールド単
位で入力されるかが決定される。すなわち、シーンチェ
ンジ検出情報SCがONならばフレーム/フィールドス
イッチ61はA側に接続され、フィールド単位で入力動
画像信号が符号化部12に入力される。また、シーンチ
ェンジ検出情報SCがOFFならばフレーム/フィール
ドスイッチ61はB側に接続され、入力動画像信号はフ
ィールドマージ回路11に入力され、フレームに合成さ
れてから符号化部12に入力される。
In FIG. 6, the interlaced moving image signal input to the input terminal 10 is split into two, one is input to the frame / field switch 61 and the other is input to the scene change detection circuit 62. flame/
The field switch 61 is the scene change detection circuit 6
It is controlled by the scene change detection information SC output from No. 2, and it is determined based on this scene change detection information SC whether the input moving image signal is input in frame units or field units. That is, if the scene change detection information SC is ON, the frame / field switch 61 is connected to the A side, and the input moving image signal is input to the encoding unit 12 in field units. If the scene change detection information SC is OFF, the frame / field switch 61 is connected to the B side, and the input moving image signal is input to the field merge circuit 11 and is combined into a frame before being input to the encoding unit 12. .

【0038】符号化部12は、マクロブロックを単位に
符号化を行い、入力動画像信号の形式に応じてフレーム
単位の符号化とフィールド単位の符号化を選択的に行
う。符号化部12の基本的な構成・動作は図1と同様で
あるため、省略する。
The coding unit 12 performs coding in units of macroblocks, and selectively performs coding in units of frames and coding in units of fields according to the format of the input moving image signal. The basic configuration and operation of the encoding unit 12 are the same as in FIG.

【0039】符号化制御部26は、符号化部12からの
符号化情報とシーンチェンジ検出回路62からのシーン
チェンジ検出情報SCおよび出力バッファ30からのバ
ッファ量の情報Bを基に符号化部12を制御し、付加情
報を可変長符号化回路28に送る。
The encoding control unit 26 is based on the encoding information from the encoding unit 12, the scene change detection information SC from the scene change detection circuit 62 and the buffer amount information B from the output buffer 30. And sends the additional information to the variable length coding circuit 28.

【0040】図7を参照して本実施例の動作を説明す
る。通常の符号化の場合は、(a)→(b)、(c)→
(d)、(d)→(e)に示されるように偶数フィール
ドと奇数フィールドをフィールドマージ回路11でマー
ジしてフレームを構成し、フレーム間予測を行ってフレ
ーム間単位の符号化を行う。一方、シーンチェンジ検出
回路62によりシーンチェンジが検出されたフレーム
(c)については、(b)→(c)のようにフィールド
毎にフィールド間予測を行ってフィールド単位の符号化
を行う。これにより、シーンチェンジのフレームのう
ち、奇数フィールドについては偶数フィールドからのフ
ィールド間予測を行うため、イントラマクロブロックが
発生しにくいことになる。
The operation of this embodiment will be described with reference to FIG. In the case of normal encoding, (a) → (b), (c) →
As shown in (d), (d) → (e), the even field and the odd field are merged by the field merging circuit 11 to form a frame, and interframe prediction is performed to perform coding in interframe units. On the other hand, for the frame (c) in which a scene change is detected by the scene change detection circuit 62, inter-field prediction is performed for each field as shown in (b) → (c), and coding is performed in field units. As a result, inter-field prediction is performed from the even field for the odd field in the scene change frame, and thus intra macroblocks are unlikely to occur.

【0041】本実施例の効果を図8により説明する。図
8の破線は、従来のフレーム単位のみの符号化でのシー
ンチェンジ時の発生符号量の変化を示している。シーン
チェンジのフレームについては前フレームとの相関が低
いため、イントラマクロブロックが多く発生し、符号量
が通常の2倍以上に増えている。このため、シーンチェ
ンジのフレームでセルロスが発生する確率も2倍以上と
なってしまう。
The effect of this embodiment will be described with reference to FIG. The broken line in FIG. 8 shows the change in the generated code amount at the scene change in the conventional encoding only on a frame-by-frame basis. Since the scene change frame has a low correlation with the previous frame, many intra macroblocks are generated, and the code amount is more than double the usual amount. For this reason, the probability of cell loss occurring in a scene change frame is more than doubled.

【0042】これに対して、本実施例ではシーンチェン
ジ時はフィールド単位の符号化を行うため、前フレーム
との相関が低いのは偶数フィールドのみであり、イント
ラマクロブロックが多く発生して符号量が増大するのは
偶数フィールドのみである。従って、図8の実線に示さ
れるように、シーンチェンジ時のイントラマクロブロッ
クの発生数が従来に比べて減少する。このため、シーン
チェンジによってフレーム間の相関が低いために生じる
イントラマクロブロックでのセルロスの発生確率が低減
し、画質が向上する。
On the other hand, in this embodiment, since the field unit is coded at the time of the scene change, only the even field has a low correlation with the previous frame, and a lot of intra macroblocks are generated and the code amount is increased. Grows only in even fields. Therefore, as shown by the solid line in FIG. 8, the number of intra macroblocks generated at the time of scene change is reduced as compared with the conventional case. For this reason, the probability of cell loss occurring in intra macroblocks due to the low correlation between frames due to a scene change is reduced, and the image quality is improved.

【0043】[0043]

【発明の効果】以上説明したように、本発明によればシ
ーンチェンジによってフレーム間の相関が即位ために生
じるイントラ符号化領域でのセルロスの発生確率を低減
し、セルロスの発生時に速やかに誤りから回復して良好
な画質を確保できるATM網に適した動画像符号化方法
及び装置を提供することができる。
As described above, according to the present invention, the probability of occurrence of cell loss in the intra-coded area caused by the relative correlation between frames due to the scene change is reduced, and the error is promptly corrected when the cell loss occurs. A moving image coding method suitable for an ATM network that can recover and secure good image quality
And a device can be provided.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の一実施例に係る動画像符号化装置の構
成を示すブロック図
FIG. 1 is a block diagram showing a configuration of a moving picture coding apparatus according to an embodiment of the present invention.

【図2】図1におけるモード選択回路とシーンチェンジ
判定回路の動作を説明するためのフローチャート
FIG. 2 is a flowchart for explaining the operation of a mode selection circuit and a scene change determination circuit in FIG.

【図3】同実施例におけるリフレッシュ動作を説明する
ための模式図
FIG. 3 is a schematic diagram for explaining a refresh operation in the same embodiment.

【図4】従来のリフレッシュ動作を説明するための模式
FIG. 4 is a schematic diagram for explaining a conventional refresh operation.

【図5】動きベクトル探索範囲の制限を説明するための
模式図
FIG. 5 is a schematic diagram for explaining limitation of a motion vector search range.

【図6】本発明の他の実施例に係る動画像符号化装置の
構成を示すブロック図
FIG. 6 is a block diagram showing the configuration of a moving picture coding apparatus according to another embodiment of the present invention.

【図7】同実施例の動作を説明するための模式図FIG. 7 is a schematic diagram for explaining the operation of the embodiment.

【図8】同実施例の効果を説明するための発生符号量の
時間的変化を示す特性図
FIG. 8 is a characteristic diagram showing a temporal change in the generated code amount for explaining the effect of the embodiment.

【符号の説明】[Explanation of symbols]

10…動画像信号入力端子 11…フィールドマ
ージ回路 12…符号化部 13…ブロック化回
路 14…減算器 15…モード選択ス
イッチ 16…DCT回路 17…量子化回路 18…逆量子化回路 19…IDCT回路 20…加算器 21…フレームメモ
リ 22…動き補償回路 23…スイッチ 24…モード選択回路 25…シーンチェン
ジ判定回路 27…可変長符号化回路 28…可変長符号化
回路 29…多重化回路 30…出力バッファ 31…セル化回路 61…フレーム/フ
ィールドスイッチ 62…シーンチェンジ検出回路
DESCRIPTION OF SYMBOLS 10 ... Moving image signal input terminal 11 ... Field merge circuit 12 ... Encoding part 13 ... Blocking circuit 14 ... Subtractor 15 ... Mode selection switch 16 ... DCT circuit 17 ... Quantization circuit 18 ... Inverse quantization circuit 19 ... IDCT circuit 20 ... Adder 21 ... Frame memory 22 ... Motion compensation circuit 23 ... Switch 24 ... Mode selection circuit 25 ... Scene change determination circuit 27 ... Variable length coding circuit 28 ... Variable length coding circuit 29 ... Multiplexing circuit 30 ... Output buffer 31 ... Cellizing circuit 61 ... Frame / field switch 62 ... Scene change detection circuit

フロントページの続き (72)発明者 上野 秀幸 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 三関 公生 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 菊池 義浩 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 井田 孝 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 神庭 進 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 押切 正浩 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 山口 昇 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 天田 皇 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 宮川 陽子 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (72)発明者 籠嶋 岳彦 神奈川県川崎市幸区小向東芝町1番地 株式会社東芝研究開発センター内 (56)参考文献 特開 平3−190482(JP,A) 特開 平3−101490(JP,A) 特開 平2−266783(JP,A) 特開 平5−161130(JP,A) 特開 平3−139083(JP,A) 特開 昭61−131986(JP,A) 特開 昭64−27379(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 7/24 - 7/68 (72) Inventor Hideyuki Ueno 1 Komukai Toshiba-cho, Kouki-ku, Kawasaki-shi, Kanagawa Toshiba Research & Development Center Co., Ltd. (72) Inventor Kimio Seki 1 Komukai-shi, Cho, Kawasaki-shi, Kanagawa Address In Toshiba Research and Development Center (72) Inventor Yoshihiro Kikuchi No. 1 Komukai Toshiba Town, Kouki-ku, Kawasaki City, Kanagawa Inside Toshiba Research and Development Center (72) Inventor Takashi Ida Komukai Toshiba, Saiwai-ku, Kawasaki City, Kanagawa Prefecture 1-cho, Toshiba Research & Development Center (72) Inventor Susumu Kamiwa 1 Komukai, Komukai-ku, Kawasaki-shi, Kanagawa Toshiba-cho Research & Development Center, Ltd. (72) Masahiro Oshikiri Small, Kawasaki-shi, Kanagawa Muko Toshiba Town No. 1 Toshiba Research & Development Center (72) Inventor Noboru Yamaguchi No. 1 Komukai Toshiba Town No. 1 Kobayashi Toshiba Research & Development Center, Kawasaki City, Kanagawa Prefecture (72) Inventor Amata Kawasaki, Kanagawa Prefecture Komukai Toshiba-cho 1-ku, Toshiba Research Co., Ltd. Inside the center (72) Inventor Yoko Miyakawa 1 Komukai Toshiba Town, Saiwai-ku, Kawasaki City, Kanagawa Prefecture Toshiba Research and Development Center (72) Inventor Takehiko Kagoshima 1 Komukai Toshiba Town, Kawasaki City, Kanagawa Prefecture Stock Corporate Toshiba Research and Development Center (56) Reference JP-A-3-190482 (JP, A) JP-A-3-101490 (JP, A) JP-A-2-266783 (JP, A) JP-A-5-161130 (JP, A) JP-A-3-139083 (JP, A) JP-A 61-131986 (JP, A) JP-A 64-27379 (JP, A) (58) Fields investigated (Int. Cl. 7) , DB name) H04N 7/24-7/68

Claims (2)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】入力動画像信号をイントラ符号化モードま
たはインター符号化モードのいずれかから選択された符
号化モードによって符号化する方法であって、前記入力
動画像信号の画面内に周期的に前記イントラ符号化モー
ドの領域を設定して該領域を画面毎に移動させるリフレ
ッシュ動作を行い、前記インター符号化モードでは動き
ベクトルの探索範囲を前記リフレッシュ動作が既になさ
れた領域に制限する動画像符号化方法において、 前記符号化モードの選択状態に基づいて前記入力動画像
信号の各フレームについてシーンチェンジが生じている
か否かの判定を行い、シーンチェンジが生じていると判
定されたとき、該シーンチェンジが生じていると判定さ
れたフレームの直後のリフレッシュ動作をフレームの
端から行うように前記リフレッシュ動作の周期を変更す
ることを特徴とする動画像符号化方法。
1. A method for encoding an input moving image signal according to an encoding mode selected from either an intra encoding mode or an inter encoding mode , wherein said input
The intra-coding mode is periodically displayed in the screen of the moving image signal.
Area to be set and the area to be moved for each screen.
And the motion in the inter coding mode.
The refresh operation has already been performed for the vector search range.
In the moving picture coding method for limiting the area to a limited area, it is determined whether or not a scene change has occurred for each frame of the input moving picture signal based on the selected state of the coding mode. when it is determined that there, and changes the period of the refresh operation to perform a refresh operation immediately over <br/> end of the frame of the frame where it is determined that the scene change has occurred Video coding method.
【請求項2】イントラ符号化モードとインター符号化モ
ードを有し、入力動画像信号を符号化する符号化手段
と、 前記符号化手段の符号化モードを選択するモード選択手
段と、 前記モード選択手段によるモード選択状態に基づいて前
記入力動画像信号の各フレームについてシーンチェンジ
が生じているか否かの判定を行うシーンチェンジ判定手
段とを備え、 前記モード選択手段は、前記入力動画像信号のフレーム
内に周期的に前記イントラ符号化モードの領域を設定し
該領域を画面毎に移動させるリフレッシュ動作を行
い、前記シーンチェンジ判定手段によってシーンチェン
ジが生じていると判定されたとき、該シーンチェンジが
生じていると判定されたフレームの直後のリフレッシュ
動作をフレームの端から行うようにリフレッシュ動作
の周期を変更するものであり、 前記符号化手段は、前記インター符号化モードにおける
動きベクトルの探索範囲を前記リフレッシュ動作が既に
なされた領域に制限するものである ことを特徴とする動
画像符号化装置。
2. An encoding unit which has an intra encoding mode and an inter encoding mode and which encodes an input moving image signal, a mode selecting unit which selects an encoding mode of the encoding unit, and the mode selecting unit. A scene change determination unit that determines whether or not a scene change has occurred for each frame of the input moving image signal based on a mode selection state by the unit, and the mode selection unit is a frame of the input moving image signal. set the periodic regions of the intra coding mode performs a refresh operation of moving the region for each screen within, when it is determined to be occurring a scene change by the scene change determination unit, the scene refresh to perform a refresh operation immediately after the frame change is determined to have occurred from the upper end of the frame It is intended to change the cycle of work, the encoding means, in the inter coding mode
The refresh operation has already been performed within the motion vector search range.
A moving picture coding apparatus, characterized in that it is limited to the created area .
JP24553093A 1993-09-30 1993-09-30 Moving image encoding method and apparatus Expired - Fee Related JP3507532B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP24553093A JP3507532B2 (en) 1993-09-30 1993-09-30 Moving image encoding method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24553093A JP3507532B2 (en) 1993-09-30 1993-09-30 Moving image encoding method and apparatus

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2002346249A Division JP2003204555A (en) 2002-11-28 2002-11-28 Moving picture encoding method and apparatus

Publications (2)

Publication Number Publication Date
JPH07107483A JPH07107483A (en) 1995-04-21
JP3507532B2 true JP3507532B2 (en) 2004-03-15

Family

ID=17135067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24553093A Expired - Fee Related JP3507532B2 (en) 1993-09-30 1993-09-30 Moving image encoding method and apparatus

Country Status (1)

Country Link
JP (1) JP3507532B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1056646A (en) * 1996-08-07 1998-02-24 Mitsubishi Electric Corp Video signal decoder
JP3063715B2 (en) 1997-12-19 2000-07-12 日本電気株式会社 Image compression device
KR100464003B1 (en) * 2002-01-08 2005-01-03 엘지전자 주식회사 Moving picture encoding method
JP2010219929A (en) * 2009-03-17 2010-09-30 Oki Networks Co Ltd Moving image analysis device, program, and method, moving image processing apparatus and moving image distribution device

Also Published As

Publication number Publication date
JPH07107483A (en) 1995-04-21

Similar Documents

Publication Publication Date Title
JP3297293B2 (en) Video decoding method and video decoding device
JP3358835B2 (en) Image coding method and apparatus
US6069919A (en) Low-delay encoding methods of moving pictures
US20030095603A1 (en) Reduced-complexity video decoding using larger pixel-grid motion compensation
KR100272812B1 (en) Video signal coder
EP1747536B1 (en) Method and apparatus for encoding a picture sequence using predicted and non-predicted pictures which each include multiple macroblocks
JP2001285876A (en) Image encoding device, its method, video camera, image recording device and image transmitting device
EP0577365A2 (en) Encoding and decoding of picture signals
JP3426668B2 (en) Video coding method
JP3450384B2 (en) Video encoding device
JP3507532B2 (en) Moving image encoding method and apparatus
JP3599942B2 (en) Moving picture coding method and moving picture coding apparatus
JPH08237666A (en) Inter-frame band comprssion signal processor
JP3257052B2 (en) Highly efficient image signal encoding apparatus and method
WO1996033573A1 (en) Device and method for coding moving image
JP2003204555A (en) Moving picture encoding method and apparatus
JP2002010263A (en) Motion picture encoding apparatus and its method
JPH0984024A (en) Coder for moving image signal
JPH0698311A (en) High efficiency coding and decoding device for picture signal
JP3356413B2 (en) Image decoding method and apparatus
JPH0993537A (en) Digital video signal recording and reproducing device and digital video signal coding method
JPH09130807A (en) Dynamic image coding and decoding device
JP3381167B2 (en) Highly efficient image signal decoding apparatus and method
JPH11341521A (en) Coder for stereoscopic moving image
JPH0937301A (en) Stereoscopic picture conversion circuit

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20031216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20031219

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071226

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081226

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091226

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees