JP4228537B2 - Image signal decoding / encoding device - Google Patents

Image signal decoding / encoding device Download PDF

Info

Publication number
JP4228537B2
JP4228537B2 JP2000362690A JP2000362690A JP4228537B2 JP 4228537 B2 JP4228537 B2 JP 4228537B2 JP 2000362690 A JP2000362690 A JP 2000362690A JP 2000362690 A JP2000362690 A JP 2000362690A JP 4228537 B2 JP4228537 B2 JP 4228537B2
Authority
JP
Japan
Prior art keywords
encoding
image signal
frame
information
macroblock
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2000362690A
Other languages
Japanese (ja)
Other versions
JP2002165219A (en
Inventor
基晴 上田
一郎 安藤
靖夫 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2000362690A priority Critical patent/JP4228537B2/en
Publication of JP2002165219A publication Critical patent/JP2002165219A/en
Application granted granted Critical
Publication of JP4228537B2 publication Critical patent/JP4228537B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、高能率予測符号化されている符号化画像信号を復号して得た復号画像信号に、前記符号化画像信号の符号化時の各マクロブロックに対応する各符号化パラメータを重畳し、その復号画像信号を再度符号化する画像信号復号・符号化装置に関する。
【0002】
そして、本発明は特に、復号前の前記各符号化パラメータが重畳されている複数の復号画像信号を切り替えることによって編集された復号画像信号を再度符号化する場合に、良好な再符号化を可能とする画像信号復号・符号化装置を提供することを目的としている。
【0003】
【従来の技術】
近年、デジタル化された画像・音声信号に対し高能率予測符号化による圧縮を行い、その圧縮された情報を用いて、衛星波、地上波、電話回線などの伝送路により情報を配信するサービスが実用化されている。このようなサービスにおいて、動画像信号・音声信号の高能率予測符号化方式として国際規格であるMPEG2が用いられている。MPEG2は、画像信号の隣接画素間の相関(空間方向の相関)、及び、フレームもしくはフィールドの相関(時間方向の相関)を利用して、画像信号の情報量を圧縮する符号化方式である。
【0004】
MPEG2規格における画像符号化は次のようなアルゴリズムで処理される。まず時間的に連続する画像フレームを、基準フレームと予測フレームにふりわける。基準フレームは空間方向の相関のみを用いることでそのフレームの符号化データのみで復元することができる。予測フレームは、基準となるフレームからの時間方向の相関と空間方向の相関とを共に用いることにより、基準フレームに対してより符号化効率を高めることができる。予測フレームは、復号された基準フレームと符号化データより復元される。
【0005】
具体的なMPEG2画像符号化で用いられる符号化体系について図3を用いて説明する。基準フレームであるIフレームは定期的に存在し復号処理の基準となる。また、予測フレームには、時間的に前の基準フレームからの予測のみで符号化されるPフレームと、時間的に前後の2つの基準フレームから予測符号化されるBフレームが存在する。Pフレームは、自身が予測フレームであると共に続くBフレームやPフレームの基準フレームにもなる。
【0006】
Iフレームの画像信号は輝度信号で水平16画素×垂直16画素のマクロブロックと呼ばれる処理単位に分割される。分割されたマクロブロックのデータは、更に8×8画素単位の2次元ブロックに分割され、直交変換の一種であるDCT(離散コサイン変換)処理が行われる。DCT変換後の信号はその2次元ブロックの周波数成分に準じた値を示すため、一般的な画像では低域に成分が集中する。また、高周波数成分の情報劣化は低周波数成分の情報劣化よりも視覚的に目立ちにくい性質がある。よって低域成分を細かく高域成分を荒く量子化し、その量子化の係数成分と係数成分がない(係数0)ものとの連続する長さを可変長符号化することにより、情報量を圧縮している。
【0007】
Pフレームの画像信号は、Iフレームと同様に16×16画素のマクロブロックに分割される。Pフレームでは、マクロブロック毎に基準フレームとの間の動きベクトルを計算する。動きベクトルの検出は一般的にブロックマッチングにより求められる。マクロブロックの各画素と、動きベクトル値だけマクロブロックの存在する水平・垂直の位置を動かした場所の基準フレームを16×16画素にブロック化した各画素の差分絶対値総和(もしくは差分二乗総和)を求め、その最小値をとる動きベクトルの値を、検出された動きベクトルとして出力する。
【0008】
マクロブロックの各画素は、動きベクトルにより切り出された2次元ブロックの各画素との差分がとられる。正確な動きベクトルが検出された場合には、差分ブロックの情報量は元のマクロブロックの持っている情報量よりも大幅に少なくなるため、Iフレームよりも荒い量子化処理が可能となる。実際には差分ブロックを符号化するか非差分ブロック(Intraブロック)を符号化するかを選択し(予測モード判定)、選択されたブロックに対してIフレームと同様のDCT・可変長符号化処理を施し、情報量が圧縮される。
【0009】
Bフレームは、Pフレームと同様の処理が行われるが、基準フレームが前後に存在するため、それぞれの基準フレームとの間で動きベクトルを検出する。Bフレームでは予測の選択肢が、前基準フレームからの予測(Forward予測)・後基準フレームからの予測(Backward予測)・2つの予測ブロックの画素毎平均値(Average予測)、の3種類存在し、Intraブロックを合わせた4種類から予測モード判定を行う。Bフレームは、時間的に前後の基準フレームから予測が可能となるため、Pフレームよりもさらに予測効率が向上する。よって、一般的にPフレームよりもさらに荒く量子化される。選択されたブロックはI、Pフレームと同様の符号化処理がなされる。
【0010】
Bフレームは復号される為に、時間的に後の基準フレームからの予測処理が行われるため、基準フレームは、Bフレームに先行して符号化される。そのため、入力された画像信号は図4に示される順番に並べ替えが行われ、符号化される。復号処理では、逆の並べ替えを行ない出力することにより、入力された画像信号の順番に復号画像が再生される。
【0011】
MPEG2画像符号化を実現する従来の一般的な符号化装置と復号装置とをそれぞれ図6,図7に示し説明する。
【0012】
図6に示される符号化装置では、入力されたデジタル画像信号がフレームメモリ(入力画像メモリ)1に記録され、符号化シンタックスに従って符号化される順番に並べ替えを行うための遅延がなされる。入力画像メモリ1から出力されたデジタル信号は、2次元ブロック変換回路2にてマクロブロックが切り出される。
【0013】
基準フレームにおいては、マクロブロックデータは直交変換回路4にて8×8画素単位でDCT変換が行われ、量子化回路4に送られる。量子化回路4において量子化されたDCT係数は、符号化回路5において符号化テーブル16の係数に対応したアドレスを参照することにより可変長または固定長の符号化が行われ、マルチプレクサ6により上記符号化データと画面内でのマクロブロックの場所等を示す付加情報(符号化パラメータ)とが多重化され、ビットストリームとして出力される。
【0014】
一方、量子化回路4で量子化されたDCT係数は逆量子化回路7、逆直交変換回路8において逆量子化及び逆DCT処理が行われ、符号化ビットストリームが復号されてデブロック回路9及び加算回路10を介して参照画像メモリ11に格納される。
【0015】
続いて予測フレームにおいては、入力画像メモリ1から切り出されたマクロブロックデータと参照画像メモリ11に格納されている画像との間で動きベクトル検出回路12によって、画像間での動きベクトルが求められる。出力された動きベクトルにより、予測ブロックが動き補償予測回路13により参照画像メモリ11から切り出され、動き補償予測回路13では予測モードの選択を行ない、符号化する入力画像ブロックとの差分信号を減算器14で生成し直交変換回路3に送り出す。差分信号は前記フレームの各ブロックと同様の処理が行われ、DCT係数が量子化処理され動きベクトルや予測モード(符号化パラメータ)と共にビットストリームとして出力される。
【0016】
符号量の制御に関しては、出力されたストリームの符号量と符号量制御回路15において目標とする符号量との比較がとられ、目標符号量に近づけるために量子化回路4の量子化の細かさ(量子化スケール)を制御する。3種類の情報量の異なるフレームタイプに対し、設定された符号化レートに対してそれぞれのフレームタイプの性質と出現頻度を用いて、各フレームに対する目標符号量を算出する。また目標符号量は、復号装置のストリームバッファを仮想的にシミュレートして、バッファのオーバーフロー・アンダーフローが起きないように制限される。量子化スケールは、スケールと出力符号量とが一般的にほぼ反比例の関係があることを利用して、各フレームタイプ毎に目標符号量に対する量子化スケール値を計算し、量子化処理を行う。ブロック毎に目標符号量に近づく方向に量子化スケールを変動させることによって、目標符号量内に符号化ビットストリームを抑える。
【0017】
図7に示される復号装置では、まず入力されたビットストリームがストリームバッファ31に蓄えられる。符号化ビットストリームには仮想的にシミュレートされたバッファ値が書かれており、そのバッファ値分ビットストリームが蓄えられてから復号処理を行うことにより、バッファが破綻して復号処理が止まることを防いでいる。ビットストリームは、可変長復号回路32にて量子化スケール、予測モード、動きベクトル等の符号化パラメータを分離すると共に、量子化されたDCT係数を復号する。復号されたDCT係数は符号化回路内と同様の逆量子化回路33、逆直交変換回路34において逆量子化及び逆DCT処理が行われ、Intraブロックもしくは差分ブロックが復号され、デブロック回路35を介して加算器36に送られる。
【0018】
予測ブロックの場合には、動き補償予測回路37にて復号した予測モードと動きベクトル値より、参照画像メモリ38から切り出された予測ブロックとの加算が加算器36で行われ、マクロブロックの画像信号が復元される。IまたはPフレームの場合には復元されたマクロブロックデータは参照画像メモリ38に書き込まれる。Bフレームの場合には、出力フレームメモリ39に蓄えられ画像信号として出力される。参照画像メモリ38に書かれたI、Pフレームの画像データは図5のタイミングに合わせて、出力するタイミングで出力フレームメモリ39に加えられBフレームと同様に出力される。
【0019】
このような画像符号化を用いた情報配信するシステムにおいて、一旦符号化されたストリームを復号して再度符号化処理を行う必要性が存在する。一つは情報を取材・記録された場所から情報を配信する場所に伝送する場合である。伝送路としては有線・無線の通信回線や記録媒体が考えられるが、伝送路と配信するシステムの伝送路の所有する帯域幅が異なる場合には、ビットストリームのビットレートを変更する必要がある。他には、記録された画像信号を編集・加工する場合が存在する。複数の画像信号を繋ぎあわせたり、画像信号上に文字テロップ等を挿入するような場合には、ストリームを復号する事なしに実現することは難しい。
【0020】
このような、再符号化処理を行う装置(トランスコーダ)において、再符号化時の符号化劣化を少なくするために、トランスコーダで伝送される画像信号(復号されたベースバンド信号)上に、符号化された際のフレームタイプ等のフレーム符号化情報やマクロブロック符号化パラメータを重畳させて伝送する方式が考えられている。
【0021】
MPEG2符号化においては、Iフレーム、Pフレーム、Bフレームの順で画像信号の品質が劣化している場合が一般的である。Iフレームは基準となるフレームであるため、他のフレームより細かく量子化されていると共に、他の画像からの参照がないため、参照フレーム劣化の影響を受けない。Pフレーム、Bフレームとなるにつれて、荒く量子化されると共に参照フレーム劣化の影響を受けやすい。再符号化する時にBフレームとなっていたフレームをIフレームとして符号化すると、劣化の大きかった画像を基準フレームとして使用したため、予測されるフレームがその劣化の影響を受け、再符号化した際の画質劣化が大きくなる。符号化パラメータを参照して、再符号化時のフレームタイプを合わせてやることで、上記劣化要因が低減される。また、符号化パラメータ内のマクロブロック符号化パラメータを用いることで、動きベクトル検出のための処理量を削減できると共に、量子化スケールと符号化ビット数より、マクロブロックの持っている情報量の指針が得られ、ビットレート変換時に良好な符号量コントロールが期待できる。
【0022】
再符号化のための符号化パラメータは、時間的、空間的に、ビデオ信号に対応づけて、復号処理手段から再符号化処理手段に伝送する必要がある。
【0023】
これを実現するための伝送方法として、標準テレビ品質4:2:2デジタルコンポーネントビデオ信号にMPEG-2ビデオの符号化パラメータを重畳して伝送する規定を定めたSMPTE 319Mがある。また、高品位テレビ品質4:2:2デジタルコンポーネントビデオ信号にMPEG-2ビデオの符号化パラメータを重畳して伝送する規定を定めるべくSMPTE 351M案が現在審議中である。
【0024】
符号化パラメータの具体的な重畳方法についてSMPTE 319Mを例として説明する。ベースバンド信号は輝度信号(Y)及び2つの色差信号(Cb,Cr)が4:2:2のサンプリング比率で伝送され、それぞれ1画素の値が10ビットで構成されている(1024レベル)。MPEG2画像符号化においては、復号画像の情報量は8ビット(256レベル)で構成されるので、復号画像信号の下位2ビットは伝送不要領域となる。この領域に、符号化パラメータを重畳する。SMPTE 319M Table 3の例では、伝送不要領域の内のCb,Crの最下位ビットを重畳領域としている。
【0025】
具体的に重畳する符号化パラメータの例としてSMPTE 319Mにて規格化された符号化パラメータ(SMPTE 319M Figure 1参照)を説明する。各々のマクロブロックを構成する16×16画素の領域毎に、各マクロブロック単位の符号化情報であるマクロブロック符号化パラメータと、フレーム符号化情報(画像単位の符号化情報)の一部であるピクチャ符号化パラメータとを書き込む。(このマクロブロック符号化パラメータとピクチャ符号化パラメータとを合わせてここでは符号化パラメータと呼んでいる。)
Cb,CrのLSBを合わせると256ビット存在し、その256ビットがSMPTE 319M Figure 1の情報を示す。マクロブロック符号化パラメータとしては、動きベクトル値、予測モード、量子化スケール、有効DCT係数を有する8×8ブロックのパターン(coded#block#pattern)等の付加情報と、各付加情報及びDCT係数を符号化した際に要したビット数を情報として記録する。
【0026】
また、picture#element#informationの領域には、SMPTE 319M Table 4で示されるようなフレーム符号化情報がマクロブロック毎に分割されて(この分割されたものがピクチャ符号化パラメータである)書き込まれる。この領域はマクロブロック毎に32ビットずつ存在し、フレーム全体に渡ってすべてのマクロブロックのpicture#element#informationを集めると、複数回コピーされたフレーム符号化情報が復元できる。
【0027】
このような、符号化パラメータを復号装置から符号化装置に伝送するトランスコーダの例を図8に示す。この例では、復号装置と符号化装置との間に合成装置を挿入し、復号されたベースバンド信号に対して編集加工された画像を符号化装置で再符号化するものである。図8に示す復号装置及び符号化装置の構成図を図9,図10にそれぞれ示し説明する。なお、図6,図7にそれぞれ示した符号化装置、復号装置と同様な部分には同一の符号を付し、その部分の説明は省略する。
【0028】
図9に示す復号装置の可変長復号回路32は、復号した際のフレーム符号化情報とマクロブロック符号化パラメータ及び、マクロブロックの符号化ビット数を算出し、符号化情報生成回路41に入力する。符号化情報生成回路41においては、符号化パラメータであるピクチャ符号化パラメータ及びマクロブロック符号化パラメータをSMPTE 319M Figure 1のようなビットパターンにフォーマットし、符号化情報メモリ42に蓄える。
【0029】
符号化情報重畳回路43においては、出力フレームバッファ39に蓄えられている画像情報と、符号化情報メモリ42に蓄えられている符号化パラメータを入力し、画像情報の色差信号のLSBビットに符号化パラメータを重畳する。符号化情報メモリ42は、I、P、Bフレームの出力並び替えに対応するように複数フレーム分具備しており、符号化情報重畳回路43はフレームタイプによりとり出す符号化パラメータの順番を変更する。
【0030】
図10に示す符号化装置においては、符号化情報分離回路21にて入力画像メモリの画像信号から符号化パラメータを抜き取る。抜き取られた符号化パラメータは、符号化情報メモリ22に蓄えられる。符号化シンタックス制御回路24では、抜き取られた符号化パラメータからフレームタイプを検出し、入力画像を符号化順に並べ替える制御を行う。フレームの符号化パラメータを抜き取ることが出来ない場合には、非検出信号が符号化情報分離回路21から送られ、従来の通常の符号化処理と同様に符号化装置内で符号化シンタックスを構成し、符号化処理を行う(符号化パラメータが重畳されていない画像信号に対する処理と同様の通常の符号化処理を行う)。マクロブロック情報生成回路23では、符号化情報メモリ22に格納されている符号化パラメータを符号化シンタックスに応じて順番を入れ替えて読み込み、各マクロブロックに対する符号化パラメータを抜き出す。
【0031】
抜き出された符号化パラメータは、動き補償予測回路13、符号量制御回路15に伝送される。動き補償予測回路13では、符号化パラメータに存在する動きベクトルと予測モードを用い、参照画像メモリ11から予測ブロックを切り出し、符号化する入力画像ブロックとの差分信号を生成し、直交変換回路3に送り出す。フレームでの符号化パラメータもしくは、マクロブロック毎の符号化パラメータを抜き取ることができなかった場合には、非検出信号が符号化情報分離回路21から動き補償予測回路13に送られ、従来の符号化処理と同様に動きベクトル検出及び予測モード選択処理が行われる。
【0032】
符号量制御回路15では、マクロブロック毎の符号化した際の量子化スケール及び要したビット数が符号化パラメータとして入力され、現在制御ターゲットである符号化ビットレートでの設定符号量と比較処理を行うことにより、適切な量子化スケールを決定し、符号化処理を行う。
【0033】
【発明が解決しようとする課題】
符号化された画像信号を一度復号してから編集する際に、複数の復号装置から出力されるベースバンド復号信号を切り替えて編集する場合がある。この編集処理を行うトランスコーディング装置としては、例えば、図8に示したように、複数の復号装置と一つの符号化装置との間に画像切替器を挿入した装置が考えられる。復号したベースバンド信号(画像信号)に対して、切替タイミングに応じて画像切替器によって切り替え処理を行い、その切り替え処理を行ったベースバンド信号を符号化装置に入力して再符号化する。この場合、切替タイミングにおけるフレーム単位の符号化情報の連続性が断ち切られることを認識できずに、誤った符号化情報を再符号化時に使用してしまう問題があった。また、切替タイミングがフレーム内で起こるような場合には、マクロブロック符号化パラメータが一画面内(一画像単位内)の部分によって異なる復号装置の出力、つまり異なるストリームの符号化パラメータとなり、再符号化時に誤って使用すると動きベクトルや予測モード等のマクロブロック符号化パラメータに矛盾が生じ、画質の劣化を生じる問題が発生する。また、符号化パラメータが破壊されたと認識できた場合でも、フリーで再符号化を行うことになり、良好なトランスコーディング機能が実現できなかった。
【0034】
本発明は、複数の画像信号復号処理部から出力された復号前の各符号化パラメータが重畳されている復号画像信号を切り替えることによって編集された復号画像信号を再度符号化する場合に、良好な再符号化を可能とする画像信号復号・符号化装置を提供することを目的としている。
【0035】
【課題を解決するための手段】
そこで、上記課題を解決するために本発明は、下記の装置を提供するものである。
(1) 高能率予測符号化されている符号化画像信号を復号して得た復号画像信号に、前記符号化画像信号の符号化時の各マクロブロックに対応する各符号化パラメータを重畳して出力する複数の画像信号復号処理部であり、前記各符号化パラメータは、各マクロブロック単位の符号化情報であるマクロブロック符号化パラメータと、画像単位の符号化情報の一部であるピクチャ符号化パラメータとを含むものである複数の画像信号復号処理部と、
前記複数の画像信号復号処理部からそれぞれ供給された前記復号画像信号を切り替えて出力する画像信号切替部と、
前記画像信号切替部から出力された前記復号画像信号に対して、前記復号画像信号から分離した前記各符号化パラメータに基づき高能率予測符号化を行う画像信号符号化処理部とを有する画像信号復号・符号化装置において、
前記各画像信号復号処理部に、
その画像信号復号処理部の識別信号を前記各符号化パラメータに付加し、前記識別信号を付加した符号化パラメータを前記復号画像信号に重畳する重畳手段を設け、
前記画像信号符号化処理部に、
一画像単位に相当する前記復号画像信号から分離した前記各符号化パラメータ内から、前記復号画像信号への復号を行った画像信号復号処理部の識別信号を検出する検出手段と、
前記検出された識別信号に対して同一の識別信号毎に、その識別信号が検出された各符号化パラメータ内から抽出したピクチャ符号化パラメータを合わせることにより一画像単位の符号化情報が得られたか否かを判断し、前記一画像単位の符号化情報が得られた場合、前記検出された識別信号が全て同一であるか否かを判断し、前記検出された識別信号が同一でない場合、前記一画像単位の符号化情報が得られた各符号化パラメータから検出されている識別信号が一種類であるか否かを判断して、その判断結果に基づいて、前記取得された一画像単位の符号化情報がそれぞれ符号化時に有効であるか無効であるかを判断する第1の判断手段と、
前記検出された識別信号に基づき、前記分離した各符号化パラメータにおける前記マクロブロック符号化パラメータがそれぞれ符号化時に有効であるか無効であるかを判断する第2の判断手段とを設け、
前記画像信号符号化処理部は、有効と判断されたマクロブロック符号化パラメータ及びピクチャ符号化パラメータに関してはそのマクロブロック符号化パラメータ及びピクチャ符号化パラメータを符号化に用い、無効と判断されたマクロブロック符号化パラメータ及びピクチャ符号化パラメータに関してはそのマクロブロック符号化パラメータ及びピクチャ符号化パラメータに相当する情報を生成して符号化に用いる、
ことを特徴とする画像信号復号・符号化装置。
【0036】
【発明の実施の形態】
本発明の一実施例を用いた切り替え編集を可能とするトランスコーディング装置(概略構成は図8と同様)を例として、その一実施例の各部を説明する。図1に一実施例における画像信号復号装置の構成図を示す。なお、従来例である図9に示すものと同様の部分には同一の符号を付し、その部分の具体的な説明は省略する。
【0037】
可変長復号回路32は、従来例と同様に復号した際のピクチャ符号化パラメータとマクロブロック符号化パラメータ及び、マクロブロックの符号化ビット数を算出し、符号化情報生成回路52に入力する。符号化情報生成回路52においては、ピクチャ符号化パラメータ及びマクロブロック符号化パラメータに加えて、復号装置自身の識別を示す値(Decoder ID)が記録されている復号装置識別信号メモリ51の情報を入力し、ビットパターンにフォーマットし、符号化情報メモリ42に蓄える。
【0038】
符号化パラメータ(各マクロブロック単位の符号化情報であるマクロブロック符号化パラメータと、フレーム符号化情報(画像単位の符号化情報)の一部であるピクチャ符号化パラメータとを合わせてここでは符号化パラメータと呼ぶ)の具体的なフォーマットの例としては、前述したSMPTE 319M Figure 1に示すものを用いるが、そのフォーマットのマクロブロック符号化パラメータ領域においてReserved Areaとなっている部分の内の4ビット程度(例えば垂直方向0ビット目、水平方向6〜9ビット目)を、Decoder ID追加用エリアとして用いる。
【0039】
Decoder IDは外部から設定が可能であり、トランスコーディング時に複数の復号装置間で異なったIDを設定することにより、識別可能な信号とすることができる。
【0040】
符号化情報重畳回路43においては、従来と同様に出力フレームメモリ39に蓄えられている画像情報と符号化情報メモリ42に蓄えられている符号化情報である符号化パラメータとを入力し、画像情報の色差信号のLSBビットに符号化パラメータを重畳する。
【0041】
次に、一実施例における画像信号符号化装置の構成図を図2に示し、これについて説明する。なお、従来例である図10に示すものと同様の部分には同一の符号を付し、その部分の具体的な説明は省略する。
【0042】
マクロブロック情報生成回路70は、従来例で示した機能と共に、符号化パラメータ内のDecoder IDを抜き出し、Decoder IDメモリ71に格納する。
【0043】
1フレーム分(一画像単位分)のマクロブロック情報が蓄えられると、そのフレームが単一復号装置からの出力で構成されているかどうかが認識できる。フレーム情報判断回路73では、1フレーム分の各マクロブロックから検出したDecoder IDと、抜き取られたフレーム単位の符号化情報であるフレーム符号化情報(ピクチャ符号化パラメータを所定の個数合わせて一つのフレーム符号化情報となる)より、フレーム符号化情報の有効無効を判断しフレーム情報を取得する。全てのマクロブロックにおいて符号化パラメータが抜き取り可能であって、かつDecoder IDメモリ71のマクロブロック毎のDecoder ID値が全て同一であったら、単一復号装置の出力だと判断する。また、1フレーム前のDecoder IDと比較し、Decoder IDが異なる場合にフレーム単位での画像信号の切替点と判断する。
【0044】
具体的なフレーム情報取得のアルゴリズムを図11に沿って説明する。まず、1フレーム分の各マクロブロックから検出した同一のDecoder ID毎に、そのDecoder IDが検出された各符号化パラメータ内から抽出したピクチャ符号化パラメータを合わせることにより得られるフレーム符号化情報を格納する(ステップS1)。
【0045】
どのDecoder IDにおいてもフレーム符号化情報が得られなかった場合には(ステップS2)、フレームタイプは符号化装置内で予め管理されたフレームタイプを用いる(ステップS3)。フレーム符号化情報が抽出できたDecoder IDが存在する場合には(ステップS2)、全てのマクロブロックにおいて符号化パラメータが抜き取り可能であって、かつマクロブロック毎のDecoder IDが全て同一である(これを条件1とする)かをチェックする(ステップS4)。この条件1を満たす場合には、抜き取られたフレーム符号化情報を使用候補として選択する(ステップS5)。
【0046】
条件1を満たさない場合には(ステップS4)、フレーム符号化情報が抽出できたDecoder IDが複数存在するかどうかをチェックし(ステップS6)、一つの場合には抽出したフレーム符号化情報を使用候補として選択する(ステップS5)。複数の場合には、1フレーム前に検出されたDecoder IDと同一IDに対応するフレーム符号化情報を優先して使用候補として選択する(ステップS7,ステップS5)。
【0047】
使用候補として選択されたフレーム符号化情報は、1フレーム前に選択されたフレーム符号化情報に対応するDecoder IDと同じDecoder IDに対応している場合には(ステップS8)、その選択されたフレーム符号化情報内のフレームタイプ及びそのフレーム符号化情報内の他の付加情報をそのまま再符号化に用いる(ステップS9)。
【0048】
同一IDでない場合(ステップS8)、もしくは、ステップS7において1フレーム前に検出されたDecoder IDと同一IDに対応するフレーム符号化情報が存在しない場合、選択されたフレーム符号化情報のフレームタイプをチェックする(ステップS11)。ステップS7においてNoの場合、複数のフレーム符号化情報からの選択は単純に最初に取得できたDecoder IDに対応したフレーム符号化情報(即ち、最初に取得できたDecoder IDと同じDecoder IDが検出された各符号化パラメータから得られたフレーム符号化情報)でかまわない(ステップS10)。
【0049】
ステップS11においてフレームタイプがIフレームの場合には、フレーム内で完結した符号化を行うため、独立したDecoder IDを持つフレームであっても付加情報が有用となる。よって、ステップS10で選択されたフレーム符号化情報内のフレームタイプ及びそのフレーム符号化情報内の他の付加情報をそのまま再符号化に用いる。
【0050】
フレームタイプがPフレームの場合には(ステップS12)、入力が切り替わったと判断し(ステップS7において前のフレームとDecocer IDが異なると判断されているので)、フレームタイプをIフレームに変更し、選択したフレーム符号化情報内の付加情報は使用できないものとして破棄する(ステップS13)。
【0051】
Bフレームの場合には、Bフレームが連続するフレーム数を制限するために、1フレーム前がIフレームもしくはPフレームの時のみ(ステップS14)、フレームタイプをそのままBフレームとする(ステップS15)。それ以外の場合はフレームタイプをIフレームとし、いずれの場合にも選択したフレーム符号化情報内付加情報は破棄する(ステップS13)。
【0052】
次に、符号化シンタックス制御回路24では、選択されたフレームタイプより入力画像を符号化順に並べ替える制御を行うと共に、フレーム情報判断回路73で有効と判断されたフレーム符号化情報に対しては、その値を用いてフレーム単位の制御を行う。また、Decoder IDメモリ71には、参照画像メモリ11と同様に、基準フレームとなる画像のDecoder IDが格納されてコントロールされる。
【0053】
有為無為検出回路72は、Decoder IDメモリ71からDecoder IDが供給されると共に符号化情報メモリ22からマクロブロック符号化パラメータが供給されて、入力画像信号から分離されたマクロブロック符号化パラメータの使用が可能か否かを判断する。有為無為検出回路72では、符号化対象マクロブロックから検出されたDecoder IDを読み取ると共に、符号化対象マクロブロックにおけるマクロブロック符号化パラメータ内の予測モードがIntraブロックでない場合には、そのマクロブロック符号化パラメータから動きベクトル値を読み取り、予測された参照画像データが存在するマクロブロックのDecoder IDのアドレス値を計算する。
【0054】
動きベクトル値が水平方向X画素、垂直方向Y画素、マクロブロックの先頭位置のポイントが水平方向H、垂直方向Vの場合、必要となるDecoder IDが存在するアドレス値は4種類存在し、マクロブロック位置が、
(1)水平(H+X)/16、垂直(V+Y)/16
(2)水平(H+X+15)/16、垂直(V+Y)/16
(3)水平(H+X)/16、垂直(V+Y+15)/16
(4)水平(H+X+15)/16、垂直(V+Y+15)/16
となる。これらのアドレス値から読み込んだDecoder ID及び自マクロブロックのDecoder IDが全て一致している場合、マクロブロック符号化パラメータは有為であるとする。ただし、マクロブロック符号化パラメータの予測モードが前方向予測の場合には、前方向の参照画像のDecoder IDのみ、後方向予測の場合には、後方向の参照画像のDecoder IDのみを参照して判断すればよい。
【0055】
また、符号化シンタックス制御回路24からは、フレーム毎に認識されたDecoder IDがフレームタイプと共に有為無為検出回路72に入力される。入力されたDecoder IDと自マクロブロックのDecoder IDとが異なる場合には、マクロブロック符号化パラメータは無為であるとする。
【0056】
有為無為検出回路72の出力信号と、フレーム情報判断回路73で取得したフレーム情報と、符号化情報分離回路21によるマクロブロック毎の符号化情報の非検出信号を参照し、マクロブロック毎の符号化処理を行う。即ち、有為無為検出回路72が有為と判断した場合には、符号化対象マクロブロックに対応する前記の分離したマクロブロック符号化パラメータ及びフレーム情報判断回路73で取得したフレーム情報に基づき符号化対象マクロブロックの符号化を行う。有為無為検出回路72が無為と判断した場合、及び符号化情報分離回路21から非検出信号が出力された場合には、新たにマクロブロック符号化パラメータに該当する情報を生成し、その情報とフレーム情報判断回路73で取得したフレーム情報とに基づき前記符号化対象マクロブロックの符号化を行う。
【0057】
以上説明したように、本実施例の装置によれば、符号化された複数の画像信号を一旦復号して、その復号した複数の画像信号を切り替えることにより編集を行った後に再度符号化処理を行う場合に、復号装置で出力する画像信号上に、復号前の符号化時の符号化パラメータを保持すると共に、各復号装置を識別できる識別信号をマクロブロック毎に符号化パラメータに付加し書き込むようにした。従って、再符号化時に識別信号を検出することにより、フレーム単位での復号画像信号の切り替え(フレーム単位での復号装置の切り替え)が判断できると共に、フレーム内での復号装置の切り替えも認識することができる。
【0058】
識別信号が連続している状態では、フレーム情報(復号画像信号から分離抽出したフレーム符号化情報から得られる情報)は完全に保持されたままであるので、そのフレーム情報を用いて再符号化処理を行えるため、再符号化時のIフレームの位置を以前に符号化されていたストリームのIフレームの位置を合わせることができ、再符号化時の画像劣化を低減できる。さらに、検出された識別信号の組み合わせに基づき再符号化処理を制御することで、切り替え点で符号化シンタックスの不具合や符号量制御の乱れを引き起こすような変化が生じることを防止できる。
【0059】
また、検出された識別信号を用いることにより、符号化対象マクロブロックのマクロブロック符号化パラメータが再符号化時のコントロールと整合が取れているかを管理し、予測処理を行う際の参照画像の予測ブロック内に整合の取れていない領域が存在するか否かを容易に認識することができ、誤った符号化パラメータを使って再符号化処理を行うことを防止できる。これにより、再符号化に有効な符号化パラメータを適切に使用できるようになり、良好なトランスコーディング機能が実現できる。
【0060】
【発明の効果】
以上の通り、本発明の画像信号復号・符号化装置によれば、復号した複数の復号画像信号(復号前の各符号化パラメータが重畳されている復号画像信号)を切り替えることによって編集した復号画像信号を再度符号化する場合に、良好な再符号化を行うことができる。
【図面の簡単な説明】
【図1】一実施例における画像信号復号装置の構成図である。
【図2】一実施例における画像信号符号化装置の構成図である。
【図3】 MPEG2画像符号化で用いられる符号化体系を示す図である。
【図4】 MPEG2符号化時の符号化順並べ替えのタイミングを示す図である。
【図5】復号時のストリーム到達順と復号画像の出力順の関係を示す図である。
【図6】 MPEG2画像符号化装置の構成図である。
【図7】 MPEG2画像復号装置の構成図である。
【図8】切り替え編集理を可能とするトランスコーディング装置の構成図である。
【図9】トランスコーディング機能を有する従来のMPEG2画像復号装置の構成図である。
【図10】トランスコーディング機能を有する従来のMPEG2画像符号化装置の構成図である。
【図11】一実施例におけるフレーム情報取得アルゴリズムを示す図である。
【符号の説明】
21 符号化情報分離回路
22 符号化情報メモリ
24 符号化シンタックス制御回路
51 復号装置識別信号メモリ
52 符号化情報生成回路
70 マクロブロック情報生成回路
71 Decoder IDメモリ
72 有為無為検出回路
73 フレーム情報判断回路
[0001]
BACKGROUND OF THE INVENTION
  The present invention superimposes each encoding parameter corresponding to each macroblock at the time of encoding the encoded image signal on the decoded image signal obtained by decoding the encoded image signal that has been subjected to high-efficiency predictive encoding.The present invention relates to an image signal decoding / encoding device that re-encodes the decoded image signal.
[0002]
  And the present invention is particularlyImage signal decoding / coding that enables good re-encoding when re-encoding a decoded image signal edited by switching a plurality of decoded image signals on which the respective encoding parameters before decoding are superimposed An object is to provide a device.
[0003]
[Prior art]
In recent years, there has been a service for compressing digitized video and audio signals by high-efficiency predictive coding and using the compressed information to distribute information over transmission lines such as satellite waves, terrestrial waves, and telephone lines. It has been put into practical use. In such a service, MPEG2, which is an international standard, is used as a high-efficiency predictive coding method for moving image signals and audio signals. MPEG2 is an encoding method that compresses the amount of information of an image signal using correlation between adjacent pixels of the image signal (correlation in the spatial direction) and correlation between frames or fields (correlation in the time direction).
[0004]
Image encoding in the MPEG2 standard is processed by the following algorithm. First, temporally continuous image frames are divided into a reference frame and a prediction frame. The reference frame can be restored using only the encoded data of the frame by using only the spatial correlation. By using both the temporal direction correlation and the spatial direction correlation from the reference frame, the prediction frame can further increase the coding efficiency with respect to the reference frame. The predicted frame is restored from the decoded reference frame and encoded data.
[0005]
A specific encoding system used in MPEG2 image encoding will be described with reference to FIG. The I frame, which is a reference frame, periodically exists and serves as a reference for decoding processing. Further, the prediction frame includes a P frame that is encoded only by prediction from a temporally previous reference frame and a B frame that is predictively encoded from two temporally preceding and following reference frames. The P frame itself is a prediction frame and also serves as a reference frame for the following B frame and P frame.
[0006]
The image signal of the I frame is divided into processing units called macroblocks of horizontal 16 pixels × vertical 16 pixels as luminance signals. The divided macroblock data is further divided into two-dimensional blocks of 8 × 8 pixel units, and a DCT (discrete cosine transform) process, which is a kind of orthogonal transform, is performed. Since the signal after DCT conversion shows a value according to the frequency component of the two-dimensional block, the component is concentrated in a low frequency in a general image. In addition, information degradation of high frequency components has a property that is visually less noticeable than information degradation of low frequency components. Therefore, the amount of information is compressed by finely quantizing the low-frequency components finely and roughly quantizing the high-frequency components, and variable-length coding the continuous length of the quantized coefficient component and the coefficient component without coefficient (coefficient 0). ing.
[0007]
The image signal of the P frame is divided into 16 × 16 pixel macroblocks as in the case of the I frame. In the P frame, a motion vector between the reference frame and each macroblock is calculated. Motion vector detection is generally obtained by block matching. The absolute sum of absolute differences (or the sum of squared differences) of each pixel of the macroblock and the reference frame where the horizontal / vertical position where the macroblock exists is moved by 16 x 16 pixels. And the value of the motion vector taking the minimum value is output as the detected motion vector.
[0008]
Each pixel of the macroblock is compared with each pixel of the two-dimensional block cut out by the motion vector. When an accurate motion vector is detected, the information amount of the difference block is significantly smaller than the information amount of the original macroblock, so that a rougher quantization process than that of the I frame is possible. Actually, select whether to encode the difference block or non-difference block (Intra block) (prediction mode determination), and DCT / variable length encoding process similar to I frame for the selected block The amount of information is compressed.
[0009]
The B frame is processed in the same manner as the P frame. However, since there are reference frames before and after the frame, a motion vector is detected between each frame. There are three types of prediction options for the B frame: prediction from the previous reference frame (Forward prediction), prediction from the subsequent reference frame (Backward prediction), and the average value per pixel of the two prediction blocks (Average prediction). Predictive mode determination is performed from four types of Intra blocks. Since the B frame can be predicted from temporally preceding and following reference frames, the prediction efficiency is further improved than the P frame. Therefore, the quantization is generally rougher than the P frame. The selected block is encoded in the same manner as the I and P frames.
[0010]
Since the B frame is decoded, a prediction process from a temporally subsequent reference frame is performed, so that the reference frame is encoded prior to the B frame. Therefore, the input image signals are rearranged in the order shown in FIG. 4 and encoded. In the decoding process, reverse sorting is performed and output, whereby decoded images are reproduced in the order of input image signals.
[0011]
A conventional general encoding apparatus and decoding apparatus for realizing MPEG2 image encoding will be described with reference to FIGS. 6 and 7, respectively.
[0012]
In the encoding device shown in FIG. 6, the input digital image signal is recorded in the frame memory (input image memory) 1, and a delay is performed for rearrangement in the order of encoding according to the encoding syntax. . From the digital signal output from the input image memory 1, a macro block is cut out by the two-dimensional block conversion circuit 2.
[0013]
In the reference frame, the macroblock data is subjected to DCT transform in units of 8 × 8 pixels by the orthogonal transform circuit 4 and sent to the quantization circuit 4. The DCT coefficient quantized in the quantization circuit 4 is encoded in a variable length or a fixed length by referring to an address corresponding to the coefficient in the encoding table 16 in the encoding circuit 5. The encoded data and the additional information (encoding parameter) indicating the location of the macro block in the screen are multiplexed and output as a bit stream.
[0014]
On the other hand, the DCT coefficients quantized by the quantization circuit 4 are subjected to inverse quantization and inverse DCT processing in the inverse quantization circuit 7 and the inverse orthogonal transform circuit 8, and the encoded bit stream is decoded to generate the deblock circuit 9 and It is stored in the reference image memory 11 via the adder circuit 10.
[0015]
Subsequently, in the prediction frame, a motion vector between images is obtained by the motion vector detection circuit 12 between the macroblock data cut out from the input image memory 1 and the image stored in the reference image memory 11. Based on the output motion vector, the prediction block is cut out from the reference image memory 11 by the motion compensation prediction circuit 13, and the motion compensation prediction circuit 13 selects a prediction mode and subtracts a difference signal from the input image block to be encoded. 14 and sent to the orthogonal transformation circuit 3. The difference signal is processed in the same manner as each block of the frame, and the DCT coefficient is quantized and output as a bit stream together with a motion vector and a prediction mode (encoding parameter).
[0016]
Regarding the control of the code amount, the code amount of the output stream is compared with the target code amount in the code amount control circuit 15, and the quantization level of the quantization circuit 4 in order to approach the target code amount. (Quantization scale) is controlled. For the three types of frame types having different information amounts, the target code amount for each frame is calculated using the nature and appearance frequency of each frame type for the set encoding rate. Further, the target code amount is limited so that the overflow / underflow of the buffer does not occur by virtually simulating the stream buffer of the decoding device. The quantization scale uses the fact that the scale and the output code amount are generally inversely proportional, and calculates the quantization scale value for the target code amount for each frame type and performs the quantization process. By varying the quantization scale in a direction approaching the target code amount for each block, the encoded bit stream is suppressed within the target code amount.
[0017]
In the decoding device shown in FIG. 7, the input bit stream is first stored in the stream buffer 31. A virtually simulated buffer value is written in the encoded bitstream, and when the decoding process is performed after the bitstream for that buffer value has been stored, the buffer breaks down and the decoding process stops. It is preventing. The variable length decoding circuit 32 separates the encoding parameters such as the quantization scale, the prediction mode, and the motion vector, and decodes the quantized DCT coefficient. The decoded DCT coefficients are subjected to inverse quantization and inverse DCT processing in the same inverse quantization circuit 33 and inverse orthogonal transform circuit 34 as in the encoding circuit, and the Intra block or the difference block is decoded. To the adder 36.
[0018]
In the case of a prediction block, the adder 36 adds the prediction block extracted from the reference image memory 38 based on the prediction mode decoded by the motion compensation prediction circuit 37 and the motion vector value, and the image signal of the macroblock is obtained. Is restored. In the case of an I or P frame, the restored macroblock data is written into the reference image memory 38. In the case of the B frame, it is stored in the output frame memory 39 and output as an image signal. Image data of I and P frames written in the reference image memory 38 is added to the output frame memory 39 at the output timing in accordance with the timing of FIG.
[0019]
In such an information distribution system using image encoding, there is a need to decode a once encoded stream and perform encoding again. One is a case where information is transmitted from a place where information is collected and recorded to a place where information is distributed. The transmission path may be a wired / wireless communication line or a recording medium. However, if the bandwidth owned by the transmission path and the transmission path of the system to be distributed are different, it is necessary to change the bit rate of the bit stream. There are other cases where the recorded image signal is edited and processed. When connecting a plurality of image signals or inserting a character telop or the like on the image signal, it is difficult to realize without decoding the stream.
[0020]
In such an apparatus (transcoder) that performs re-encoding processing, in order to reduce encoding degradation during re-encoding, on an image signal (decoded baseband signal) transmitted by the transcoder, A scheme is considered in which frame coding information such as a frame type at the time of coding and macroblock coding parameters are superimposed and transmitted.
[0021]
In MPEG2 encoding, the quality of the image signal generally deteriorates in the order of I frame, P frame, and B frame. Since the I frame is a reference frame, it is quantized more finely than other frames and is not affected by reference frame deterioration because there is no reference from other images. As it becomes P frame and B frame, it is quantized roughly and easily affected by reference frame deterioration. When a frame that was a B frame at the time of re-encoding is encoded as an I-frame, an image with a large deterioration is used as a reference frame, so the predicted frame is affected by the deterioration and Degradation of image quality increases. By referring to the encoding parameters and matching the frame type at the time of re-encoding, the deterioration factor is reduced. Also, by using the macroblock coding parameters in the coding parameters, the amount of processing for motion vector detection can be reduced, and the amount of information the macroblock has from the quantization scale and the number of coding bits. And good code amount control can be expected during bit rate conversion.
[0022]
The encoding parameter for re-encoding needs to be transmitted from the decoding processing means to the re-encoding processing means in association with the video signal temporally and spatially.
[0023]
As a transmission method for realizing this, there is SMPTE 319M which defines a standard for superimposing MPEG-2 video encoding parameters on a standard TV quality 4: 2: 2 digital component video signal for transmission. In addition, the SMPTE 351M proposal is currently under deliberation to define a standard for superimposing MPEG-2 video encoding parameters on a 4: 2: 2 digital component video signal for transmission.
[0024]
A specific method for superimposing encoding parameters will be described using SMPTE 319M as an example. In the baseband signal, a luminance signal (Y) and two color difference signals (Cb, Cr) are transmitted at a sampling ratio of 4: 2: 2, and each pixel value is composed of 10 bits (1024 levels). In MPEG2 image coding, the amount of information of a decoded image is composed of 8 bits (256 levels), so the lower 2 bits of the decoded image signal become a transmission unnecessary area. Coding parameters are superimposed on this area. In the example of SMPTE 319M Table 3, the least significant bits of Cb and Cr in the transmission unnecessary area are used as the overlapping area.
[0025]
A coding parameter standardized by SMPTE 319M (see SMPTE 319M Figure 1) will be described as an example of a coding parameter to be specifically superimposed. For each 16 × 16 pixel area constituting each macroblock, a macroblock coding parameter that is coding information for each macroblock and a part of frame coding information (coding information for each image) Write picture coding parameters. (The macroblock encoding parameter and the picture encoding parameter are collectively referred to as an encoding parameter here.)
When the LSB of Cb and Cr are combined, there are 256 bits, and 256 bits indicate the information of SMPTE 319M Figure 1. As macroblock coding parameters, additional information such as motion vector values, prediction modes, quantization scales, 8 × 8 block patterns (coded # block # pattern) having effective DCT coefficients, and additional information and DCT coefficients The number of bits required for encoding is recorded as information.
[0026]
Also, in the picture # element # information area, frame coding information as shown in SMPTE 319M Table 4 is divided for each macroblock (this divided is a picture coding parameter) and is written. This area has 32 bits for each macroblock, and by collecting picture # element # information of all macroblocks over the entire frame, frame encoded information copied a plurality of times can be restored.
[0027]
An example of such a transcoder that transmits coding parameters from the decoding device to the coding device is shown in FIG. In this example, a synthesizing device is inserted between the decoding device and the encoding device, and an image edited with respect to the decoded baseband signal is re-encoded by the encoding device. The configuration diagrams of the decoding device and the encoding device shown in FIG. 8 are shown and described in FIGS. 9 and 10, respectively. 6 and 7 are denoted by the same reference numerals, and the description thereof is omitted.
[0028]
The variable length decoding circuit 32 of the decoding apparatus shown in FIG. 9 calculates the frame encoding information, the macroblock encoding parameter, and the number of encoding bits of the macroblock at the time of decoding, and inputs them to the encoding information generation circuit 41. . In the encoding information generation circuit 41, the picture encoding parameter and the macroblock encoding parameter, which are encoding parameters, are formatted into a bit pattern as shown in SMPTE 319M Figure 1 and stored in the encoding information memory 42.
[0029]
In the encoded information superimposing circuit 43, the image information stored in the output frame buffer 39 and the encoding parameter stored in the encoded information memory 42 are input and encoded into the LSB bits of the color difference signal of the image information. Superimpose parameters. The encoding information memory 42 is provided for a plurality of frames so as to correspond to the output rearrangement of I, P, and B frames, and the encoding information superimposing circuit 43 changes the order of encoding parameters taken out according to the frame type. .
[0030]
In the encoding apparatus shown in FIG. 10, the encoding information separation circuit 21 extracts the encoding parameter from the image signal of the input image memory. The extracted encoding parameters are stored in the encoding information memory 22. The encoding syntax control circuit 24 detects the frame type from the extracted encoding parameters, and performs control to rearrange the input images in the encoding order. When the encoding parameter of the frame cannot be extracted, a non-detection signal is sent from the encoding information separation circuit 21, and the encoding syntax is configured in the encoding apparatus as in the conventional normal encoding process. Then, the encoding process is performed (the normal encoding process similar to the process for the image signal on which the encoding parameter is not superimposed is performed). In the macroblock information generation circuit 23, the encoding parameters stored in the encoding information memory 22 are read in a different order according to the encoding syntax, and the encoding parameters for each macroblock are extracted.
[0031]
The extracted encoding parameters are transmitted to the motion compensation prediction circuit 13 and the code amount control circuit 15. The motion compensated prediction circuit 13 cuts out a prediction block from the reference image memory 11 using a motion vector and a prediction mode existing in the encoding parameter, generates a difference signal from the input image block to be encoded, and sends it to the orthogonal transformation circuit 3. Send it out. When the encoding parameter in the frame or the encoding parameter for each macroblock cannot be extracted, a non-detection signal is sent from the encoding information separation circuit 21 to the motion compensation prediction circuit 13, and the conventional encoding is performed. Similar to the processing, motion vector detection and prediction mode selection processing are performed.
[0032]
In the code amount control circuit 15, the quantization scale and the number of bits required for encoding for each macroblock are input as encoding parameters, and the set code amount and the comparison processing at the encoding bit rate that is the current control target are compared. As a result, an appropriate quantization scale is determined and an encoding process is performed.
[0033]
[Problems to be solved by the invention]
When an encoded image signal is once decoded and edited, baseband decoded signals output from a plurality of decoding apparatuses may be switched and edited. As a transcoding device that performs this editing process, for example, a device in which an image switch is inserted between a plurality of decoding devices and one coding device as shown in FIG. 8 can be considered. The decoded baseband signal (image signal) is subjected to switching processing by an image switch according to the switching timing, and the baseband signal subjected to the switching processing is input to the encoding device and re-encoded. In this case, there is a problem that it is impossible to recognize that the continuity of the encoded information in units of frames at the switching timing is cut off, and erroneous encoded information is used during re-encoding. Also, when the switching timing occurs within a frame, the macroblock encoding parameter becomes an output of a different decoding apparatus, that is, an encoding parameter of a different stream, depending on the portion in one screen (in one image unit), and re-encoding If it is used incorrectly at the time of conversion, there will be a contradiction in macroblock encoding parameters such as motion vectors and prediction modes, resulting in a problem of image quality degradation. Further, even when it can be recognized that the encoding parameter is destroyed, re-encoding is performed free of charge, and a good transcoding function cannot be realized.
[0034]
  The present invention provides a plurality of image signal decodingProcessing partWhen re-encoding the decoded image signal edited by switching the decoded image signal on which the pre-decoding encoding parameters output from are superimposed, it is possible to perform good re-encoding.PaintingAn object of the present invention is to provide an image signal decoding / encoding device.
[0035]
[Means for Solving the Problems]
  In order to solve the above problems, the present invention provides the following apparatus.
(1)  A plurality of decoding parameters obtained by decoding a coded image signal that has been subjected to high-efficiency predictive coding, and each coding parameter corresponding to each macroblock at the time of coding the coded image signal is superimposed and output. Each of the coding parameters includes a macroblock coding parameter that is coding information for each macroblock and a picture coding parameter that is a part of the coding information for each image. A plurality of image signal decoding processing units to include,
  An image signal switching unit that switches and outputs the decoded image signals respectively supplied from the plurality of image signal decoding processing units;
  Image signal decoding comprising: an image signal encoding processing unit that performs high-efficiency predictive encoding on the decoded image signal output from the image signal switching unit based on the respective encoding parameters separated from the decoded image signal -In the encoding device,
  In each image signal decoding processing unit,
  Adding an identification signal of the image signal decoding processing unit to each encoding parameter, and providing superimposing means for superimposing the encoding parameter with the identification signal added on the decoded image signal;
  In the image signal encoding processing unit,
  Image signal decoding obtained by decoding the decoded image signal from the respective encoding parameters separated from the decoded image signal corresponding to one image unitProcessing partDetecting means for detecting the identification signal of
  For each identification signal that is the same as the detected identification signal, was the encoding information obtained in units of one image obtained by combining the picture encoding parameters extracted from the respective encoding parameters in which the identification signal was detected? When the encoded information for each image is obtained, it is determined whether or not all the detected identification signals are the same, and when the detected identification signals are not the same, It is determined whether there is one type of identification signal detected from each encoding parameter from which encoding information of one image unit is obtained, and based on the determination result, the acquired one image unit First determination means for determining whether the encoded information is valid or invalid at the time of encoding;
  Second determining means for determining whether the macroblock coding parameter in each separated coding parameter is valid or invalid at the time of coding based on the detected identification signal;
  The image signal encoding processing unit uses the macroblock encoding parameter and the picture encoding parameter for encoding for the macroblock encoding parameter and the picture encoding parameter determined to be valid, and the macroblock determined to be invalid As for the encoding parameter and the picture encoding parameter, information corresponding to the macroblock encoding parameter and the picture encoding parameter is generated and used for encoding.
An image signal decoding / encoding device characterized by that.
[0036]
DETAILED DESCRIPTION OF THE INVENTION
An example of a transcoding apparatus (schematic configuration is the same as in FIG. 8) that enables switching editing using an embodiment of the present invention will be described. FIG. 1 shows a block diagram of an image signal decoding apparatus in one embodiment. The same parts as those shown in FIG. 9 which is the conventional example are denoted by the same reference numerals, and detailed description thereof will be omitted.
[0037]
The variable length decoding circuit 32 calculates the picture coding parameter, the macroblock coding parameter, and the number of coded bits of the macroblock when decoding in the same manner as in the conventional example, and inputs it to the coding information generation circuit 52. In the encoded information generation circuit 52, in addition to the picture encoding parameter and the macroblock encoding parameter, information of the decoding apparatus identification signal memory 51 in which a value (Decoder ID) indicating the identification of the decoding apparatus itself is recorded is input. Then, it is formatted into a bit pattern and stored in the encoded information memory 42.
[0038]
Coding parameters (macroblock coding parameters that are coding information in units of macroblocks) and picture coding parameters that are part of frame coding information (coding information in units of images) are encoded here. As an example of a specific format (referred to as a parameter), the one shown in SMPTE 319M Figure 1 described above is used, but about 4 bits in the reserved area in the macroblock coding parameter area of that format. (For example, the 0th bit in the vertical direction and the 6th to 9th bits in the horizontal direction) are used as an area for adding a Decoder ID.
[0039]
Decoder ID can be set from the outside. By setting different IDs among a plurality of decoding devices at the time of transcoding, it can be made an identifiable signal.
[0040]
In the encoded information superimposing circuit 43, the image information stored in the output frame memory 39 and the encoding parameter which is the encoded information stored in the encoded information memory 42 are input as in the conventional case, and the image information The encoding parameter is superimposed on the LSB bit of the color difference signal.
[0041]
Next, FIG. 2 shows a block diagram of an image signal encoding apparatus according to an embodiment, which will be described. In addition, the same code | symbol is attached | subjected to the part similar to what is shown in FIG. 10 which is a prior art example, and the specific description of the part is abbreviate | omitted.
[0042]
The macroblock information generation circuit 70 extracts the Decoder ID in the encoding parameter together with the function shown in the conventional example, and stores it in the Decoder ID memory 71.
[0043]
When the macro block information for one frame (one image unit) is stored, it can be recognized whether or not the frame is constituted by an output from a single decoding device. In the frame information determination circuit 73, a Decoder ID detected from each macroblock for one frame and frame encoding information (ie, a predetermined number of picture encoding parameters) that is extracted frame-by-frame encoding information are combined into one frame. From the encoded information), the validity of the frame encoded information is determined and the frame information is acquired. If encoding parameters can be extracted from all macroblocks and the decoder ID values of the macroblocks in the decoder ID memory 71 are all the same, it is determined that the output is from a single decoding device. Also, when compared with the Decoder ID of the previous frame, if the Decoder ID is different, it is determined as the switching point of the image signal in units of frames.
[0044]
A specific frame information acquisition algorithm will be described with reference to FIG. First, for each identical Decoder ID detected from each macroblock for one frame, frame coding information obtained by combining picture coding parameters extracted from each coding parameter in which the Decoder ID is detected is stored. (Step S1).
[0045]
When frame coding information is not obtained for any Decoder ID (step S2), the frame type managed in advance in the coding apparatus is used (step S3). If there is a Decoder ID from which frame coding information can be extracted (step S2), the coding parameters can be extracted from all the macroblocks, and the Decoder ID for each macroblock is the same (this) Is set as condition 1) (step S4). If this condition 1 is satisfied, the extracted frame coding information is selected as a use candidate (step S5).
[0046]
When the condition 1 is not satisfied (step S4), it is checked whether or not there are a plurality of decoder IDs from which the frame encoded information can be extracted (step S6), and in the case of one, the extracted frame encoded information is used. A candidate is selected (step S5). In the case of a plurality of frames, the frame coding information corresponding to the same ID as the Decoder ID detected one frame before is preferentially selected as a use candidate (Step S7, Step S5).
[0047]
When the frame encoding information selected as the use candidate corresponds to the same Decoder ID as the Decoder ID corresponding to the frame encoding information selected one frame before (step S8), the selected frame The frame type in the encoded information and other additional information in the frame encoded information are used for re-encoding as they are (step S9).
[0048]
If they are not the same ID (step S8), or if there is no frame encoding information corresponding to the same ID as the Decoder ID detected one frame before in step S7, the frame type of the selected frame encoding information is checked. (Step S11). In the case of No in step S7, the selection from the plurality of frame encoding information is simply performed by detecting the frame encoding information corresponding to the first acquired decoder ID (ie, the same decoder ID as the first acquired decoder ID). Frame encoding information obtained from each encoding parameter) (step S10).
[0049]
When the frame type is I frame in step S11, since the encoding is completed within the frame, additional information is useful even for a frame having an independent Decoder ID. Therefore, the frame type in the frame coding information selected in step S10 and other additional information in the frame coding information are used as they are for re-coding.
[0050]
If the frame type is P frame (step S12), it is determined that the input has been switched (since it is determined that the Decercer ID is different from the previous frame in step S7), and the frame type is changed to I frame and selected. The additional information in the frame encoded information is discarded as being unusable (step S13).
[0051]
In the case of a B frame, in order to limit the number of consecutive B frames, only when the previous frame is an I frame or a P frame (step S14), the frame type is set as the B frame as it is (step S15). In other cases, the frame type is set to I frame, and in any case, the selected additional information in the frame encoded information is discarded (step S13).
[0052]
Next, the encoding syntax control circuit 24 performs control for rearranging the input images in the encoding order based on the selected frame type, and for the frame encoding information determined to be valid by the frame information determination circuit 73. Then, the frame unit is controlled using the value. Similarly to the reference image memory 11, the Decoder ID memory 71 stores and controls the Decoder ID of the image serving as the base frame.
[0053]
The significant / ineffective detection circuit 72 is supplied with a decoder ID from the decoder ID memory 71 and a macroblock coding parameter from the coding information memory 22 and uses the macroblock coding parameter separated from the input image signal. It is determined whether or not it is possible. The significant / ineffective detection circuit 72 reads the Decoder ID detected from the encoding target macroblock and, if the prediction mode in the macroblock encoding parameter in the encoding target macroblock is not an Intra block, the macroblock code The motion vector value is read from the quantization parameter, and the decoder ID address value of the macroblock in which the predicted reference image data exists is calculated.
[0054]
When the motion vector value is horizontal X pixel, vertical Y pixel, and the macroblock head position point is horizontal H and vertical V, there are four types of address values where the required Decoder ID exists. the position is,
(1) Horizontal (H + X) / 16, Vertical (V + Y) / 16
(2) Horizontal (H + X + 15) / 16, Vertical (V + Y) / 16
(3) Horizontal (H + X) / 16, Vertical (V + Y + 15) / 16
(4) Horizontal (H + X + 15) / 16, Vertical (V + Y + 15) / 16
It becomes. When the Decoder ID read from these address values and the Decoder ID of the own macroblock match, it is assumed that the macroblock coding parameter is significant. However, when the prediction mode of the macroblock coding parameter is forward prediction, only the Decoder ID of the forward reference image is referenced, and in the backward prediction, only the Decoder ID of the backward reference image is referenced. Just judge.
[0055]
Further, the decoder ID recognized for each frame is input from the encoding syntax control circuit 24 to the significant / ineffective detection circuit 72 together with the frame type. If the input Decoder ID is different from the Decoder ID of its own macroblock, the macroblock coding parameter is assumed to be useless.
[0056]
By referring to the output signal of the significant / ineffective detection circuit 72, the frame information acquired by the frame information determination circuit 73, and the non-detection signal of the encoded information for each macroblock by the encoded information separation circuit 21, the code for each macroblock is referred to. Process. In other words, if the significant / ineffective detection circuit 72 determines that it is significant, the encoding is performed based on the separated macroblock encoding parameter corresponding to the encoding target macroblock and the frame information acquired by the frame information determination circuit 73. Encode the target macroblock. When the significant / ineffective detection circuit 72 determines that it is ineffective and when the non-detection signal is output from the encoded information separation circuit 21, information corresponding to the macroblock encoding parameter is newly generated, and the information Based on the frame information acquired by the frame information determination circuit 73, the encoding target macroblock is encoded.
[0057]
As described above, according to the apparatus of the present embodiment, once a plurality of encoded image signals are decoded, editing is performed by switching the decoded plurality of image signals, and then the encoding process is performed again. When performing, the encoding parameter at the time of encoding before decoding is held on the image signal output by the decoding device, and an identification signal for identifying each decoding device is added to the encoding parameter for each macroblock and written. I made it. Therefore, by detecting the identification signal at the time of re-encoding, it is possible to determine the switching of the decoded image signal in units of frames (decoding device switching in units of frames) and also recognize the switching of the decoding devices in the frame. Can do.
[0058]
In the state where the identification signal is continuous, the frame information (information obtained from the frame encoded information separated and extracted from the decoded image signal) remains completely maintained, so that re-encoding processing is performed using the frame information. Since it can be performed, the position of the I frame of the stream that has been previously encoded can be aligned with the position of the I frame at the time of re-encoding, and image degradation at the time of re-encoding can be reduced. Furthermore, by controlling the re-encoding process based on the detected combination of identification signals, it is possible to prevent a change that causes a malfunction of the encoding syntax or disturbance of the code amount control at the switching point.
[0059]
In addition, by using the detected identification signal, it is managed whether the macroblock coding parameter of the macroblock to be coded is consistent with the control at the time of re-encoding, and the prediction of the reference image when performing the prediction process It can be easily recognized whether or not there is an inconsistent area in the block, and re-encoding processing can be prevented from being performed using an incorrect encoding parameter. Thereby, it becomes possible to appropriately use coding parameters effective for re-encoding, and a good transcoding function can be realized.
[0060]
【The invention's effect】
  As described above, the present inventionAccording to the image signal decoding / encoding device,Good re-encoding when re-encoding a decoded image signal that has been edited by switching a plurality of decoded image signals (decoded image signals on which encoding parameters before decoding are superimposed)It can be performed.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of an image signal decoding apparatus according to an embodiment.
FIG. 2 is a configuration diagram of an image signal encoding device according to an embodiment.
FIG. 3 is a diagram illustrating an encoding system used in MPEG2 image encoding.
[Fig. 4] Fig. 4 is a diagram illustrating the encoding order rearrangement timing at the time of MPEG2 encoding.
FIG. 5 is a diagram illustrating a relationship between a stream arrival order during decoding and an output order of decoded images.
FIG. 6 is a configuration diagram of an MPEG2 image encoding device.
FIG. 7 is a configuration diagram of an MPEG2 image decoding device.
FIG. 8 is a configuration diagram of a transcoding device that enables switching editing.
FIG. 9 is a configuration diagram of a conventional MPEG2 image decoding apparatus having a transcoding function.
FIG. 10 is a configuration diagram of a conventional MPEG2 image encoding device having a transcoding function.
FIG. 11 is a diagram illustrating a frame information acquisition algorithm according to an embodiment.
[Explanation of symbols]
21 Encoded information separation circuit
22 Encoded information memory
24 Coding syntax control circuit
51 Decoding device identification signal memory
52 Encoded information generation circuit
70 Macroblock information generation circuit
71 Decoder ID memory
72 Majority detection circuit
73 Frame information judgment circuit

Claims (1)

高能率予測符号化されている符号化画像信号を復号して得た復号画像信号に、前記符号化画像信号の符号化時の各マクロブロックに対応する各符号化パラメータを重畳して出力する複数の画像信号復号処理部であり、前記各符号化パラメータは、各マクロブロック単位の符号化情報であるマクロブロック符号化パラメータと、画像単位の符号化情報の一部であるピクチャ符号化パラメータとを含むものである複数の画像信号復号処理部と、
前記複数の画像信号復号処理部からそれぞれ供給された前記復号画像信号を切り替えて出力する画像信号切替部と、
前記画像信号切替部から出力された前記復号画像信号に対して、前記復号画像信号から分離した前記各符号化パラメータに基づき高能率予測符号化を行う画像信号符号化処理部とを有する画像信号復号・符号化装置において、
前記各画像信号復号処理部に、
その画像信号復号処理部の識別信号を前記各符号化パラメータに付加し、前記識別信号を付加した符号化パラメータを前記復号画像信号に重畳する重畳手段を設け、
前記画像信号符号化処理部に、
一画像単位に相当する前記復号画像信号から分離した前記各符号化パラメータ内から、前記復号画像信号への復号を行った画像信号復号処理部の識別信号を検出する検出手段と、
前記検出された識別信号に対して同一の識別信号毎に、その識別信号が検出された各符号化パラメータ内から抽出したピクチャ符号化パラメータを合わせることにより一画像単位の符号化情報が得られたか否かを判断し、前記一画像単位の符号化情報が得られた場合、前記検出された識別信号が全て同一であるか否かを判断し、前記検出された識別信号が同一でない場合、前記一画像単位の符号化情報が得られた各符号化パラメータから検出されている識別信号が一種類であるか否かを判断して、その判断結果に基づいて、前記取得された一画像単位の符号化情報がそれぞれ符号化時に有効であるか無効であるかを判断する第1の判断手段と、
前記検出された識別信号に基づき、前記分離した各符号化パラメータにおける前記マクロブロック符号化パラメータがそれぞれ符号化時に有効であるか無効であるかを判断する第2の判断手段とを設け、
前記画像信号符号化処理部は、有効と判断されたマクロブロック符号化パラメータ及びピクチャ符号化パラメータに関してはそのマクロブロック符号化パラメータ及びピクチャ符号化パラメータを符号化に用い、無効と判断されたマクロブロック符号化パラメータ及びピクチャ符号化パラメータに関してはそのマクロブロック符号化パラメータ及びピクチャ符号化パラメータに相当する情報を生成して符号化に用いる、
ことを特徴とする画像信号復号・符号化装置。
A plurality of decoding parameters obtained by decoding a coded image signal that has been subjected to high-efficiency predictive coding, and each coding parameter corresponding to each macroblock at the time of coding the coded image signal is superimposed and output. Each of the coding parameters includes a macroblock coding parameter that is coding information for each macroblock and a picture coding parameter that is a part of the coding information for each image. A plurality of image signal decoding processing units to include,
An image signal switching unit that switches and outputs the decoded image signals respectively supplied from the plurality of image signal decoding processing units;
Image signal decoding comprising: an image signal encoding processing unit that performs high-efficiency predictive encoding on the decoded image signal output from the image signal switching unit based on the respective encoding parameters separated from the decoded image signal -In the encoding device,
In each image signal decoding processing unit,
Adding an identification signal of the image signal decoding processing unit to each encoding parameter, and providing superimposing means for superimposing the encoding parameter with the identification signal added on the decoded image signal;
In the image signal encoding processing unit,
Detecting means for detecting an identification signal of an image signal decoding processing unit that has performed decoding into the decoded image signal from within each of the encoding parameters separated from the decoded image signal corresponding to one image unit;
For each identification signal that is the same as the detected identification signal, was the encoding information obtained in units of one image obtained by combining the picture encoding parameters extracted from the respective encoding parameters in which the identification signal was detected? When the encoded information for each image is obtained, it is determined whether or not all the detected identification signals are the same, and when the detected identification signals are not the same, It is determined whether there is one type of identification signal detected from each encoding parameter from which encoding information of one image unit is obtained, and based on the determination result, the acquired one image unit First determination means for determining whether the encoded information is valid or invalid at the time of encoding;
Second determining means for determining whether the macroblock coding parameter in each separated coding parameter is valid or invalid at the time of coding based on the detected identification signal;
The image signal encoding processing unit uses the macroblock encoding parameter and the picture encoding parameter for encoding for the macroblock encoding parameter and the picture encoding parameter determined to be valid, and the macroblock determined to be invalid For the encoding parameter and picture encoding parameter, information corresponding to the macroblock encoding parameter and picture encoding parameter is generated and used for encoding.
An image signal decoding / encoding device characterized by that.
JP2000362690A 2000-11-29 2000-11-29 Image signal decoding / encoding device Expired - Lifetime JP4228537B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000362690A JP4228537B2 (en) 2000-11-29 2000-11-29 Image signal decoding / encoding device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000362690A JP4228537B2 (en) 2000-11-29 2000-11-29 Image signal decoding / encoding device

Publications (2)

Publication Number Publication Date
JP2002165219A JP2002165219A (en) 2002-06-07
JP4228537B2 true JP4228537B2 (en) 2009-02-25

Family

ID=18833922

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000362690A Expired - Lifetime JP4228537B2 (en) 2000-11-29 2000-11-29 Image signal decoding / encoding device

Country Status (1)

Country Link
JP (1) JP4228537B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4666255B2 (en) * 2005-12-27 2011-04-06 日本電気株式会社 Encoded data selection, encoded data setting, re-encoded data generation and re-encoding method and apparatus

Also Published As

Publication number Publication date
JP2002165219A (en) 2002-06-07

Similar Documents

Publication Publication Date Title
KR100766740B1 (en) Apparatus and method for converting data using encoding history information
US7532808B2 (en) Method for coding motion in a video sequence
US7146056B2 (en) Efficient spatial scalable compression schemes
JP4666695B2 (en) Video signal compression processing method
US6792045B2 (en) Image signal transcoder capable of bit stream transformation suppressing deterioration of picture quality
EP1833256B1 (en) Selection of encoded data, setting of encoded data, creation of recoded data, and recoding method and device
US6628713B1 (en) Method and device for data encoding and method for data transmission
JP5015375B2 (en) Image coding method and apparatus compliant with MPEG standard for inserting small images
US6556714B2 (en) Signal processing apparatus and method
JP4120934B2 (en) Image processing apparatus, image processing method, recording medium, and program
JP4228537B2 (en) Image signal decoding / encoding device
JP4193162B2 (en) Image signal encoding device
JPH10229563A (en) Moving image encoding method and moving image encoder
JPH07231449A (en) Encoder and decoder for picture signal
JP4320509B2 (en) Video re-encoding apparatus and method
JP4399794B2 (en) Image coding apparatus and image coding method
JPH0888854A (en) Moving picture encoding system
JP2002142225A (en) Image signal-coding device
JP2002016924A (en) Transcoding device and transcoding method
JP3461280B2 (en) Moving image editing apparatus and moving image editing method
JPH06276482A (en) Picture signal coding method, coder, decoding method and decoder
JP2009296208A (en) Dynamic image-reproducing device and dynamic image transmission system
JP4596277B2 (en) Encoding device, encoding method, decoding device, and decoding method
JP2006108785A (en) Image encoder
KR100681920B1 (en) Method and apparatus for a spatial scalable encoding/decoding based on multiple reference frames

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080814

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080826

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081124

R151 Written notification of patent or utility model registration

Ref document number: 4228537

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131212

Year of fee payment: 5

EXPY Cancellation because of completion of term