JP4393875B2 - 複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法 - Google Patents

複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法 Download PDF

Info

Publication number
JP4393875B2
JP4393875B2 JP2003587114A JP2003587114A JP4393875B2 JP 4393875 B2 JP4393875 B2 JP 4393875B2 JP 2003587114 A JP2003587114 A JP 2003587114A JP 2003587114 A JP2003587114 A JP 2003587114A JP 4393875 B2 JP4393875 B2 JP 4393875B2
Authority
JP
Japan
Prior art keywords
dct coefficients
dct
input video
coefficients
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003587114A
Other languages
English (en)
Other versions
JP2005523658A (ja
Inventor
ツン ツォン
フン ホン
Original Assignee
アイピージー エレクトロニクス 503 リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アイピージー エレクトロニクス 503 リミテッド filed Critical アイピージー エレクトロニクス 503 リミテッド
Publication of JP2005523658A publication Critical patent/JP2005523658A/ja
Application granted granted Critical
Publication of JP4393875B2 publication Critical patent/JP4393875B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/156Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、デジタルビデオ情報の圧縮に関し、特に、復号化中に効率を得るために異なるコーディング方策を提供する方法及び装置に関する。
シングルレイヤビデオコーディングは、例えばデジタルビデオ記録及びデジタルテレビジョンのようなさまざまなアプリケーションにおいて最も広く使われている。ビデオは、特定のビットレートで符号化され、復号器は、ビットストリームを復号化し、符号化された完全品質(full quality)であらゆるピクチャを出力する。計算負荷を低減するために、シングルレイヤビットストリームの、複雑さの軽減された復号化が用いられている。しかしながら、ピクチャが部分的な品質で復号化されるとき、復号器側において動き補償のために使用される参照ピクチャは、多くの場合、符号化中に使用されるものと合致しない。その結果、参照ピクチャに現れるエラーは、他のピクチャに伝搬する。これは、予測ドリフト又はエラー伝搬としても知られている。
レイヤードビデオコーディング又はビットレートスケーラブル方法は、シングルレイヤビデオコーディングに取って代わるものである。ビデオは、ベースレイヤを生成するために、まず低ビットレートで符号化される。元のビデオとベースレイヤにより復元されたビデオとの間の差が、1つ又は複数の拡張レイヤを生成するために符号化される。復号器側において、ベースレイヤは常に復号化されるが、拡張レイヤは、利用可能な処理容量に依存して完全に又は部分的に復号化される。ベースレイヤのみが復号化される場合、低品質の参照ピクチャが符号化のために使用されるので予測ドリフトがない。完全(full)な拡張レイヤ及びベースレイヤの双方が復号化される場合、それぞれのレイヤは、復号化の目的で、符号化中の対応する参照ピクチャを使用し、それゆえ予測ドリフトがない。しかしながら、拡張レイヤが部分的にのみ復号化され、拡張レイヤピクチャ間に動き予測がある場合、予測ドリフトが、拡張レイヤに生じる。更に、拡張レイヤにおいて使用される参照ピクチャは効率的な動き予測に向かないので、このタイプのコーディングは、本質的に圧縮中の効率が低い。更に、マルチレイヤードコーディングにおける余分なオーバヘッドは、同じ品質を生成するためにシングルレイヤビットストリームを復号化することよりも複雑である。従って、実際のインプリメンテーションを容易にするのが相対的に簡単である最適な復号化性能を得る必要がある。
本発明は、可変複雑さ復号化に適した符号化されたデジタルビデオ信号を得るために、シングルレイヤ符号化アルゴリズムを変更することによって、MPEGデジタルビデオ復号器システムの復号化効率を改善する方法及びシステムに関する。
本発明の1つの見地によれば、少なくとも1つのマクロブロックを有する入力ビデオ画像のストリームを符号化する方法が提供される。方法は、入力ビデオ画像のそれぞれのマクロブロックについて動きベクトルを生成するステップと、動きベクトルに基づいて入力ビデオ画像の予測画像信号を生成するステップと、予測画像信号をDCT係数の2次元アレイに変換するステップと、予め決められた基準に従って、DCT係数のアレイを新しいDCT係数の組に変更するステップと、新しいDCT係数を量子化されたDCT値に量子化するステップと、新しいDCT係数のそれぞれの行を読んでシリアルチェーンにするためにジグザク走査を実施するステップと、符号化されたマクロブロックを生成するために、ジグザク走査からのシリアルチェーン及び動きベクトルをコード化するステップと、を含む。DCT係数のアレイを変更するステップは、DCT係数のエネルギーレベルが予め決められたエネルギーレベルに達するまで、最後の列のDCT係数及び最後の行のDCT係数を択一的に捨てるステップと、予め決められた値により捨てられた列又は行を割り当てるステップと、を含む。DCT係数のアレイを変更するステップは、最も低い2x2DCT係数を除き、DCT係数の総エネルギーレベルを計算するステップと、DCT係数の総エネルギーレベルが予め決められたエネルギーレベルに達するまで、DCT係数の最後の列及び最後の行を捨てるステップと、捨てられた列及び行を予め決められた値に割り当てるステップと、を含む。方法は更に、逆量子化された、復号化されたデータを生成するために、量子化されたDCT値を逆量子化するステップと、参照データを生成するために、逆量子化された、復号化されたデータを周波数ドメインから空間ドメインに変換するステップと、動き補償ピクチャを生成するために、参照データに関して動き補償を実施するステップと、を含む。実施例において、予測画像信号をDCT係数のアレイに変換するステップの前に、入力ビデオ画像の予測(P)ピクチャに関してフルペル(full-pel、完全画素)動き補償が実施される。
本発明の別の見地によると、少なくとも1つのマクロブロックを有する入力ビデオ画像を符号化する方法は、(a)入力ビデオ画像のそれぞれのマクロブロックについて、少なくとも1つの動きベクトル及び少なくとも1つの動き補償予測値を生成するステップと、(b)予測値をDCT係数の組に変換するステップと、(c)予め決められた基準に従って、DCT係数の組を新しいDCT係数の組に変更するステップと、(d)DCT係数の組を量子化するステップと、(e)符号化されたマクロブロックを生成するために、量子化された係数の組及び動きベクトルをコード化するステップと、を含む。方法は更に、符号化されたマクロブロックを復号化プロセスに送るステップと、入力ビデオ画像からピクチャのタイプを決定するステップと、を含み、予測ピクチャが入力ビデオ画像から検出される場合、予測値をDCT係数の組に変換するステップ(b)を実施する前に、入力ビデオ画像に関してフルペル動き補償を実施することを含む。予測ピクチャが入力ビデオ画像から検出される場合、動きベクトルは、完全(full)な動きベクトルに変換される。DCT係数のアレイは、最も低い2x2DCT係数を除いてDCT係数の総エネルギーレベルを計算し、DCT係数の総エネルギーレベルが予め決められたエネルギーレベルに達するまで、DCT係数の最後の列及び最後の行を択一的に捨て、予め決められた値により捨てられた列及び行を割り当てることによって変更される。方法は更に、逆量子化された、復号化されたデータを生成するために、量子化されたDCT値を逆量子化するステップと、参照データを生成するために、逆量子化された、復号化されたデータを周波数ドメインから空間ドメインに変換するステップと、動き補償ピクチャを生成するために、参照データに関して動き補償を実施するステップと、を含む。
本発明の別の見地によれば、入力ビデオ画像を符号化する符号化システムは、入力ビデオ画像を受け取り、少なくとも1つの動きベクトル及び少なくとも一つの予測エラー信号を生成するように構成される動き推定予測モジュールと、動き推定モジュールの出力部に結合され、予測エラー信号をDCT係数の2次元アレイに変換する離散余弦変換器(DCT)モジュールであって、DCT係数が、入力ビデオ画像からのピクチャタイプの分類によって変更される、離散余弦変換器(DCT)モジュールと、DCTモジュールに結合され、量子化された係数を生成するために変更されたDCT係数を量子化する量子化モジュールと、量子化モジュールに結合され、量子化された係数をシリアル表現に変換するように構成されるジグザグ走査モジュールと、符号化されたマクロブロックを生成するために、量子化された係数の組及び動きベクトルをコード化するコード化モジュールと、を有する。システムは更に、量子化モジュールから受け取られる量子化された係数を受け取り、逆にするように結合される逆量子化モジュールと、逆量子化モジュールの出力部に結合され、逆量子化された係数を周波数ドメインから空間ドメインに変換する逆離散余弦変換器(IDCT)と、動き補償されたピクチャを形成するために、IDCTから出力信号を受け取る参照フレームバッファと、を有する。
更に別の見地は、本発明が、特定のアプリケーションにとって望まれるハードウェア、ソフトウェア、又はハードウェア及びソフトウェアの組み合わせにおいて実現されうることである。
更に、本発明は、簡単で、信頼性が高く、安価なインプリメンテーションにおいて実現されることができる。
当業者には、これら及び他の利益が添付の図面とともに以下の詳細な説明を読むことにより明らかになるであろう。
本発明の方法及び装置のより完全な理解は、添付の図面とともに以下の詳細な説明を参照することによって得ることができる。
以下の説明において、本発明の完全な理解を与えるために、限定する目的ではなく説明の目的で、特定のアーキテクチャ、インタフェース、技法、その他のような具体的な詳細が示されている。しかしながら、当業者には、本発明が、これらの具体的な詳細から逸れる他の実施例において実践されてもよいことが明らかであろう。説明を簡潔にし且つ明瞭にするために、よく知られた装置、回路及び方法の詳細な説明は、不必要な詳細により本発明の説明を分かりにくくしないように省かれている。
本発明の理解を容易にするために、以下、MPEG標準に従ってビデオデータを圧縮し復号化する通常の方法を簡潔に説明する。
ビデオ圧縮コーデックの高いコストを低減し、異なる製造業者間の装置のインターオペラビリティ(相互運用性)を提供する方法を実現するために、圧縮標準が、ビデオの符号化及び復号化のためにMoving Pictures Expert Group(MPEG)によって作成されている。MPEG標準は、International Standard ISO/IEC 11172-1, "Information Technology--Coding of moving pictures and associated audio for digital storage media at up to about 1.5 Mbit/s", Parts 1, 2 and 3, First edition 1993-08-01に規定されており、その内容のすべてがここに盛り込まれる。
MPEG標準の下で、イントラフレーム(Iフレーム)、順方向予測フレーム(Pフレーム)及び双方向予測フレーム(Bフレーム)の3種類のビデオ情報のフレームがある。Iフレームは、周期的にコード化され、すなわちフレームのそれぞれのグループごとに別個にコード化されるフレームである。予測は、ビデオフレームと、特定の数のフレーム先であり次の参照フレームの前に置かれるべきPフレームとの合成からなる。Bフレームは、2つの参照フレームの間で、又は未来の参照フレームのマクロブロックにより過去の参照フレームのマクロブロックを補間(平均)することによって、予測される。動きベクトルもまた符号化され、これは、現在フレーム内のマクロブロックに対する参照フレーム内のマクロブロックの相対位置を特定する。現在フレームは、以前のフレーム及び後続のフレームに基づいて符号化されることができる。このように、あるフレームは、MPEG符号化規則に基づいて符号化される必要があり、当該フレームに関連する他のフレームは、常に他のフレームから独立してコード化されるIフレームを除いて、当該フレームからの差に基づいて符号化される。
動き補償に基づくビデオコーディングにおいて、動きベクトルは、参照フレームの実際のピクセル値に関して現在フレームのピクセルの値が特定される整数値(すなわちフルペルコーディング)、又は参照フレームの既存のピクセルから補間される「仮想」ピクセルに関して現在フレームのピクセルの値が特定される半整数値(すなわちハーフペル(半画素)コーディング)、4分の1整数値(すなわち4分の1ペル(画素)コーディング)、及びフラクショナル(以下、分数と呼ぶ)値(すなわち分数ペル(画素)コーディング)をもつことができる。ハーフペル動き補償、4分の1ペル動き補償及び分数ペル動き補償は、復号器がハーフ、4分の1、分数ペルのグリッドをそれぞれ使用して動きベクトルによって参照される以前のマクロブロックからマクロブロックを補間しなければならないので、フルペル動き補償より計算が大量である。
フレームは、特定のコサインに基づく関数の振幅として係数を符号化する離散余弦変換(DCT)コーディングスキームを使用してコード化される。DCT係数は、量子化され、可変又はランレングス符号化を使用して更にコード化される。圧縮されたコード化されたフレームを受け取ると、復号器は、過去の参照フレームの対応するマクロブロックに適用される動きベクトルを用いて動き補償を実施することによって、現在のPフレームのマクロブロックを復号化する。復号器は更に、それぞれの過去及び未来の参照フレームに適用される動きベクトルを用いて動き補償を実施することによって、Bフレームのマクロブロックを復号化する。あるフレームのピクセルのマクロブロックは、以前の又は後続のフレームのピクセルのマクロブロックを並進させることによって得られうる。並進の量は、動きベクトルと呼ばれる。Iフレームは、いかなる過去又は未来のフレームも参照せずに単一の画像として符号化されるので、Iフレームを復号化する場合に動き処理は必要でない。
上述したように、特に分数動きベクトルが使用される場合、動き補償は、多くの一般的なビデオ伸張(デコンプレッション)方法において最も計算量の多い演算のうちの1つである。このように、上述の伸張負担の計算の要求についていくことができないビデオシステムは、しばしばフレームをまるごと落とす。これは、ビデオ再生中にピクチャの瞬間的なフリーズとして観測できることがあり、そののちピクチャの突然の不連続又はジャーキネス(ガクガクした動き)が続く。復号化エンドの伸張方法と関連する処理要求を低減するために、さまざまな復号化複雑さを軽減する方法が開発されてきた。本発明は、結果的に得られるビデオ画像の品質を維持しつつ復号化複雑さが軽減されることができるような、圧縮されたビデオビットストリームを構成する新しい方法を提供する。
図1は、ビデオ信号を符号化するための本発明の一実施例による符号器10の簡略化されたブロック図を示す。符号器10は、動き推定及び予測モジュール12、DCTモジュール14、量子化モジュール16、ジグザグ走査モジュール18、ランレングスコーディングモジュール20、逆量子化モジュール22、逆DCTモジュール24及び参照フレームバッファモジュール26を有する。本発明の好ましい実施例において、符号器10は、パーソナルコンピュータ、ワークステーション、パーソナルディジタルアシスタント(PDA)、ハンドヘルドコンピュータ及び/又は例えばマイクロプロセッサ、デジタル信号プロセッサ、マイクロコントローラ、マイクロコンピュータ及び/又はプログラミング命令に基づいてデジタル情報を操る任意の他の装置のような集積回路、の中央処理装置において実現されることができる。参照フレームバッファ26は、ハードディスクメモリ、ランダムアクセスメモリ、リードオンリメモリ、外部メモリ及び/又はデジタル情報を記憶する他のいかなる装置であってもよい。動き補償及び予測ジュール12、逆量子化モジュール22及び逆DCTモジュール24を有するモジュールの組は、「組み込み型復号器」として一般に知られていることに留意されたい。このタイプの復号化モジュールは、当業者に良く知られている。それゆえ、その説明は、冗長を避けるために省かれている。
符号器10によって受け取られる入力ビデオ信号(V)は、カムコーダー、DVDプレーヤ、VCR、テレビジョンチューナ及び/又はデジタル情報を受け取る他のいかなる装置からの信号であってもよい。このビデオ情報ストリームは、アナログ信号からデジタル信号に変換され、符号器10に適用される。入力ビデオ信号は更に、1枚の画像(フレーム)に対応するそれぞれのピクチャが複数のスライスに分けられるように複数のレイヤに分けられる。それぞれのスライスは、左から右及び上から下のラインに配置される複数のマクロブロックからなる。マクロブロックの各々は、6つの成分からなり、すなわち16x16ピクセルのマクロブロックを構成する4つの8x8ピクセルブロックの輝度(ブライトネス)を表わすY1乃至Y4の4つの輝度成分と、同じマクロブロックについて8x8ピクセルブロックの差成分Cb及びCrを構成する2つのカラー(U,V)と、からなる。ピクチャのブロック単位への分割は、2つの連続するピクチャ間の変化を平滑化する能力を高める。
図1に示すように、動き推定及び予測モジュール12は、動きベクトルを推定するために入力ビデオ信号(V)を受け取り、現在ピクチャブロックの座標から参照フレームの座標へのオフセットを提供するように構成される。動き情報は、ビデオシーケンスの連続するフレームの間に存在する高い冗長性を低減するので、動きベクトルは、以前の参照フレームから現在フレームを復元するためにのちに使用されることができる。更に、現在フレームの推定は、以前に復号化されたフレーム及び動きベクトルを使用して得られることが可能である。動き補償は、予測エラーを形成するために使用される以前に復号化されたサンプル値を含む過去及び/又は未来の参照フレームに対するオフセットを提供するために、動きベクトルを使用する予測を含む。
マクロブロックの8x8ピクセルブロックの各々は、64の周波数帯の各々についてDCT係数の8x8ブロックの組を生成するために、離散余弦変換(DCT)を施される。それぞれの係数が圧縮効率の損失なく独立して処理されることができる点に留意すべきである。結果として得られるDCT係数の8x8ブロックは、量子化モジュール16によって受け取られる。本発明の好ましい実施例において、それぞれのマクロブロックについて符号化するための情報量は更に、量子化の前に、予め決められた基準(図2及び図3を参照して後述する)に従っていくつかの高周波DCT係数を処理することによって調整される。8x8ピクセルブロックのDCT係数は、対応するコーディングパラメータ、すなわち量子化重みによって分けられる。所与の8x8ピクセルブロックに対する量子化重みは、8x8量子化マトリクスに関して表現される。そののち、それぞれのマクロブロックについて量子化器スケール値を考慮に入れるために、付加の計算がDCT係数に関して実施される。量子化スケール値は、マクロブロックとは異なりうる量子化精度の空間的調整の程度に対応することに留意されたい。調整は、多くの場合、それぞれのマクロブロックの視覚的コンテントの特性に依存する、付加するアーチファクトに対する人間の目の変化する感度を利用する。このような量子化値を用いてDCT係数を量子化することによって、DCT係数の多くはゼロに変換され、従って画像圧縮効率を改善する。
結果として得られる量子化されたDCT係数の8x8ブロックは、ジグザグ走査モジュール18によって受け取られる。ジグザグ走査モジュール18において、量子化された係数の2次元のブロックは、それを量子化されたDCT係数の1次元ストリングに変換するために、「ジグザグ」の順序で走査される。そののち、ランレングスコーディングモジュール20は、単一シンボルをもつシンボルのランを符号化することによってコーディング効率を改善するようにランレングスコーディングを使用して、量子化されたDCT係数のストリング、マクロブロックタイプ及び動きベクトルを符号化する。このコーディングスキームは、当分野において良く知られており、例えばハフマンコーディングのような他のよく知られたコーディングスキームが、本発明の技法によって用いられてもよいことに留意すべきである。ランレングスコーディングモジュール20の出力は、ビットストリームBSである。
ここで、本発明により、量子化の前に高周波DCT係数の情報を調整することによって、適切な可変複雑さ復号化を符号化する方策が、詳細な説明に記述される。
図2を参照して、ピクチャは、8x8ピクセルマトリクスブロックに分けられ、8x8変換係数を得るために、DCTモジュール14によってDCTがブロック単位に実施される。結果として得られるDCT係数の長方形8x8ブロックは、マスク変換(以下、「DCTマスク」と呼ぶ)を受け、この変換において、DCT係数は、DCT係数のエネルギーの特定のパーセンテージ(α)を含む長方形を得るために解析される。この長方形は、まず、最も低い2x2DCT係数を除くすべてのDCTブロックの総エネルギーを計算することによって得られる。最後又は8番目の列の周波数成分が、エネルギーレベル計算中に捨てられ、図2(a)に示すように、最も低い2x2DCT係数を除くエネルギーレベルが再び計算される。このとき、新たに計算されたエネルギーレベルが、予め決められたパーセンテージ、例えば総エネルギーから85%を越えるかどうかが決定される。予め決められたパーセンテージを超えない場合、図2(b)に示すように、最も低い2x2DCT係数を除いてDCTブロックの残りのエネルギーレベルを計算するとき、最後又は8番目の行の周波数成分が捨てられる。新しく計算されたエネルギーレベルが予め決められたパーセンテージより下にない場合、図2(c)に示すように、7番目の列の周波数成分が捨てられ、最も低い2x2DCT係数を除く残りのDCTブロックの新しいエネルギーレベルが再び計算される。このようにして、所望のエネルギーレベルが得られるまで、他の列及び行の周波数成分が択一的に捨てられる。
図3を参照して、一旦所望のエネルギーレベルが得られると、所望のエネルギーレベルを計算するときに捨てられた列及び行の周波数成分は、例えば255のような相対的に高い量子化マトリクス重みに割り当てられる。このような高い値によりDCT係数を量子化することによって、DCT係数は、量子化の間に効果的にゼロに変換される。高周波DCT係数を捨てることは、符号化中に同様の演算が実施されるとき、重大な予測ドリフトを引き起こさない。
軽減された複雑さをもって復号化されるピクチャは、符号器側のピクチャほど高い周波数情報をもたないが、軽減された複雑さは、予測ドリフトに寄与する傾向があることを留意すべきである。符号器側において使用される参照ピクチャが、部分的な品質の復号化から得られるピクチャにより近づけられることができる場合、予測ドリフトは低減されることができる。こうして、本発明の好ましい実施例において、あるピクチャの予測ドリフトへの寄与がより小さい傾向があるとき、符号化されているピクチャのタイプに異なる重みを与える必要がある。当業者であれば、次のイントラピクチャより前のエラー伝搬に関するフレームがより少ないとき、現在のグループオブピクチャ(GOP)におけるPピクチャは、Iピクチャよりも予測ドリフトへの寄与が小さいことが分かるであろう。このように、本発明による複雑さの軽減された復号化を実施するとき、GOPの後のほうのピクチャに関する量子化マトリクス又はDCTマスクは、より少ない考慮をもって設計されなければならない。同様に、GOPの最初のピクチャであるIピクチャに関する量子化マトリクス又はDCTマスクは、部分的品質の復号化の際の予測ドリフトについて最大の考慮をもって設計されなければならない。更に、Bピクチャは参照ピクチャとして使用されないので、DCTマスクは必要でない。従って、符号化中、Bピクチャに関する量子化マトリクスは、最適化されたシングルレイヤ符号化に関するものと同じままでありうる。
動き補償は、計算集約的な演算である傾向があるので、復号化複雑さを軽減する別の方法は動き補償を簡略化することによる点に更に留意すべきである。従って、本発明の好ましい実施例において、符号化中、より粗い精度MCが、可変複雑さ復号化を更に容易にするために適用されることができる。例えば、1/2ペルMCが(MPEG−2の)符号化のために使用される場合、復号器は、計算のピーク負荷期間中に非整数動きベクトルが現在マクロブロックについて使用されるとき、1/2ペル位置ピクセル値を補間することなくフルペル動き補償のみを適用するように強いられてもよい。同様に、1/4ペルMCが符号化するために使用される場合、1/2ペルMC、フルペルMC又はそれらの任意の組み合わせが、復号化のために適用されることができる。従って、簡略化された動き予測が、Pピクチャのみに関して符号化中に利用される場合、複雑さの軽減された復号化からの予測ドリフトが除去されることができ又は低減されることができる。しかしながら、動き予測は、Iピクチャに関しては実施されず、適用できない。更に、Bピクチャは、未来の参照ピクチャとして使用されないので、Bピクチャは、完全(full)複雑さのより高い精度の動き補償により符号化されることができる。
上述の考察から、図4の以下のフローチャートは、本発明の実施例により復号化の複雑さを軽減することができる符号化演算プロセスを示す。
図4を参照して、ステップ100において、符号器10によって入力ビデオ情報を受け取ると、その入力ビデオ情報は、ステップ102においてピクチャのタイプを検出され、それによって、異なる符号化モードが、後述するようなピクチャ分類に従って適用されることができる。
I.現在ピクチャが、イントラ(I)ピクチャとして符号化される。
Iフレームピクチャは8x8ブロックに分けられ、ステップ104において、DCTが実施される。ここで、それぞれの係数はCi,jとして示され、i及びjは0乃至7である。ステップ106において、DCT係数は、最も低い2x2DCT係数を除くDCT係数のエネルギーのαを含む長方形を得るために解析される。
数学的タームにおいて、長方形(iαI,jαI)は、次のようにして得られる:
まず、最も低い2x2係数を除くすべてのDCTブロックの総エネルギーを計算する:
Figure 0004393875
次に、Eα=αEを計算する。次に、初期の行及び列番号をセットする:
i=j=7
次に、以下のステップを繰り返す:
Figure 0004393875
を計算する。(このステップは、はるか右の列の周波数成分を捨てる。)
E<=Eαの場合、ストップし、(i,j−1)を出力する;そうでない場合、次のステップを続ける;
Figure 0004393875
を計算する。(このステップは、最も下の行の周波数成分を捨てる)。
E<=Eαの場合、ストップし、(i−1,j−1)を出力する;そうでない場合、次のステップを続ける。
i=i−1;j=j−1。
長方形をもたらす所望のエネルギーレベルを得たのち、対応する長方形のための量子化マトリクスが、ステップ108において計算される。完全(full)符号化のための量子化マトリクスが、
Figure 0004393875
であるとする。ここで、i,jは0乃至7である。このようなマトリクスの例は、イントラピクチャのための通常のMPEGコーディングスキーム(すなわち、テストモデル5(TM5))マトリクスであり、それぞれのマクロブロックに関するコーディングモードは、予測残余(エラー信号)のエネルギーを比較することによって選択される。すなわち、交換(intrade)モード決定は、それぞれのコーディングモードについて、予測残余の分散に対しマクロブロックピクセルの分散を比較することによって決定される。
現在イントラピクチャを部分的に符号化するための量子化マトリクスは、次のように計算される:
i<=iαI及びj<=jαIの場合、
Figure 0004393875
そうでない場合、Wi,j=255。
最後に、ステップ110において、変更された量子化マトリクスが符号化され、符号化された信号は復号側に送られる。
II.現在ピクチャが予測(P)ピクチャとして符号化される。
ステップ102においてPピクチャが検出される場合、ステップ120において、Pピクチャは、フルペル(低減された解像度)動き予測を受ける。ステップ122乃至ステップ128の演算は、本質的に、ステップ104乃至ステップ110に関してより上述したのと同じである。唯一の顕著な相違は、αの設定が、現在GOPのこのPピクチャの位置に依存することである。それゆえ、前の段落に記載したのと同じ構成要素に関する説明は、冗長さを避けるために省かれる。αの設定は、現在GOPにおけるこのPピクチャの位置に依存する。PピクチャはGOPの後ろのほうにあるので、Iピクチャが予測サイクルをリセットする前に、より低い予測ドリフトが、後続のフレームに生じる。GOPサイズ(グループオブピクチャのピクチャ数)をNと示し、GOPにおけるPピクチャの相対位置をnと示す。αは次のように計算される。
α=α (1−n/N)
ここで、nは、M−1乃至N−1である。
III.現在ピクチャが双方向予測ピクチャとして符号化される。
現在ピクチャが双方向ピクチャとして符号化される場合、Bピクチャとして通常の符号化を実施することは、復号器側における予測ドリフトに寄与しない。従って、符号化時間複雑さの軽減の準備は必要でない。
上述したものは、ビデオ符号器において符号化モードを適応的に変更することによって、伸張方法と関連する処理要求を低減するための方法及びシステムを開示している。当業者には、方法及びシステムの特定の利益が、根本的なビデオ画像を過度に劣化させずに伸張効率を高めることによって達成されることが明らかでなければならない。特定の圧縮効率が符号化の間維持されるように符号化プロセスを設計することによって、複雑さの軽減は、固定の完全品質の復号化のために最適化された通常の符号化プロセスと比べて、復号化中の予測ドリフトを低減するためにより少ない品質劣化をもって達成されることができる。
本発明の好ましい実施例が図示され記載されているが、当業者によって、本発明の真の範囲から逸脱することなく、さまざまな変更及び変形がなされ、等価物がその構成要素に取って代わりうることが分かるであろう。従って、本発明は、本発明を実行するために考えられる最良の形態として開示される特定の実施例に限定されず、本発明は、添付の特許請求の範囲内にあるすべての実施例を含むことが意図される。
ビデオ情報を圧縮する符号器の例示の実施例を示す図。 本発明により、復号化する間の計算負荷を低減するためにDCT係数を変更するグラフィック表現を示す図。 本発明により、復号化する間の計算負荷を低減するためにDCT係数を変更するグラフィック表現を示す図。 本発明により、復号化する間の計算負荷を低減するためにDCT係数を変更するグラフィック表現を示す図。 本発明により、量子化を実施する前にDCT係数を変更するグラフィック表現を示す図。 本発明により、量子化を実施する前にDCT係数を変更するグラフィック表現を示す図。 本発明により、量子化を実施する前にDCT係数を変更するグラフィック表現を示す図。 本発明により、復号化する間の計算負荷を低減するプロセスを示すフローチャート。

Claims (15)

  1. 少なくとも1つのマクロブロックを有する入力ビデオ画像のストリームを符号化する方法であって、
    前記入力ビデオ画像のそれぞれのマクロブロックについて動きベクトルを生成するステップと、
    前記動きベクトルに基づいて前記入力ビデオ画像の予測画像信号を生成するステップと、
    前記予測画像信号をDCT係数の2次元アレイに変換するステップと、
    前記DCT係数のエネルギーレベルが予め決められたエネルギーレベルに達するまで、最後の列のDCT係数及び最後の行のDCT係数を択一的に捨てて、前記捨てられた列又は行を予め決められた値により割り当てることにより、前記DCT係数のアレイを新しいDCT係数の組に変更するステップと、
    前記新しいDCT係数を量子化されたDCT値に量子化するステップと、
    前記新しいDCT係数のそれぞれの行を読んでシリアルチェーンにするためにジグザク走査を実施するステップと、
    符号化されたマクロブロックを生成するために、前記ジグザク走査からの前記シリアルチェーン及び前記動きベクトルをコード化するステップと、
    を含む方法。
  2. 前記DCT係数のアレイは8x8マトリクスである、請求項1に記載の方法。
  3. 前記予測画像信号を前記DCT係数のアレイに変換する前記ステップは、前記DCT係数を時間ドメインから周波数ドメインに変換することを含む、請求項1に記載の方法。
  4. 前記DCT係数のアレイを変更する前記ステップが、
    最も低い2x2DCT係数を除き前記DCT係数の総エネルギーレベルを計算するステップ含む、請求項1に記載の方法。
  5. 前記コード化するステップは、予め決められた符号化構成テーブルによって実施される、請求項1に記載の方法。
  6. 逆量子化された、復号化されたデータを生成するために、前記量子化されたDCT値を逆量子化するステップと、
    参照データを生成するために、前記逆量子化された、復号化されたデータを周波数ドメインから空間ドメインに変換するステップと、
    動き補償ピクチャを生成するために、前記参照データに関して動き補償を実施するステップと、
    を更に含む、請求項1に記載の方法。
  7. 前記予測画像信号を前記DCT係数のアレイに変換する前記ステップの前に、前記入力ビデオ画像の予測ピクチャに関してフルペル動き補償を実施するステップを更に含む、請求項1に記載の方法。
  8. 前記符号化されたマクロブロックを復号化プロセスに送るステップを更に含む、請求項1に記載の方法。
  9. 少なくとも1つのマクロブロックを有する入力ビデオ画像を符号化する方法であって、
    (a)前記入力ビデオ画像のそれぞれのマクロブロックについて、少なくとも1つの動きベクトル及び少なくとも1つの動き補償予測値を生成するステップと、
    (b)前記予測値をDCT係数の組に変換するステップと、
    (c)前記DCT係数のエネルギーレベルが予め決められたエネルギーレベルに達するまで、最後の列のDCT係数及び最後の行のDCT係数を択一的に捨てて、前記捨てられた列又は行を予め決められた値により割り当てることにより、前記DCT係数の組を新しいDCT係数の組に変更するステップと、
    (d)前記DCT係数の組を量子化するステップと、
    (e)符号化されたマクロブロックを生成するために、前記量子化されたDCT係数の組及び前記動きベクトルをコード化するステップと、
    を含む方法。
  10. 前記入力ビデオ画像からピクチャのタイプを決定するステップを更に含む、請求項に記載の方法。
  11. 前記入力ビデオ画像から予測ピクチャが検出される場合、前記予測値を前記DCT係数の組に変換する前記ステップ(b)を実施する前に、前記入力ビデオ画像に関してフルペル動き補償を実施する、請求項10に記載の方法。
  12. 前記入力ビデオ画像から予測ピクチャが検出される場合、前記動きベクトルを完全な動きベクトルに変換することを含む、請求項10に記載の方法。
  13. 入力ビデオ画像を符号化する符号化システムであって、
    前記入力ビデオ画像を受け取り、少なくとも1つの動きベクトル及び少なくとも1つの予測エラー信号を生成するように構成される動き推定予測モジュールと、
    前記動き推定モジュールの出力部に結合され、前記予測エラー信号をDCT係数の2次元アレイに変換し、前記DCT係数のエネルギーレベルが予め決められたエネルギーレベルに達するまで、最後の列のDCT係数及び最後の行のDCT係数を択一的に捨てて、前記捨てられた列又は行を予め決められた値により割り当てることにより、前記DCT係数の2次元アレイを変更する離散余弦変換器モジュールと、
    前記離散余弦変換器モジュールに結合され、量子化された係数を生成するために前記変更されたDCT係数を量子化する量子化モジュールと、
    前記量子化モジュールに結合され、前記量子化された係数をシリアル表現に変換するように構成されるジグザグ走査モジュールと、
    符号化されたマクロブロックを生成するために、前記量子化された係数の組及び前記動きベクトルをコード化するコード化モジュールと、
    を有する符号化システム。
  14. 前記量子化モジュールから前記量子化された係数を受け取り、逆にするように結合される逆量子化モジュールと、
    前記逆量子化モジュールの出力部に結合され、前記逆量子化された係数を周波数ドメインから空間ドメインに変換する逆離散余弦変換器と、
    動き補償されたピクチャを形成するために、前記逆離散余弦変換器から出力信号を受け取る参照フレームバッファと、
    を更に有する請求項13に記載の符号化システム。
  15. 命令のシーケンスを表すデータが記憶された機械読み取り可能な媒体であって、
    前記命令のシーケンスは、プロセッサによって実行される場合、該プロセッサに、
    前記入力ビデオ画像のそれぞれのマクロブロックについて動きベクトルを生成し、
    前記動きベクトルに基づいて前記入力ビデオ画像の予測画像信号を生成し、
    前記予測画像信号をDCT係数の2次元アレイに変換し、
    前記DCT係数のエネルギーレベルが予め決められたエネルギーレベルに達するまで、最後の列のDCT係数及び最後の行のDCT係数を択一的に捨てて、前記捨てられた列又は行を予め決められた値により割り当てることにより、前記DCT係数のアレイを新しいDCT係数の組に変更し、
    前記新しいDCT係数を量子化されたDCT値に量子化し、
    前記新しいDCT係数のそれぞれの行を読んでシリアルチェーンにするためにジグザク走査を実施し、
    符号化されたマクロブロックを生成するために、前記ジグザク走査からの前記シリアルチェーン及び前記動きベクトルをコード化するようにさせる、
    機械読み取り可能な媒体。
JP2003587114A 2002-04-22 2003-04-15 複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法 Expired - Fee Related JP4393875B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/127,528 US6985635B2 (en) 2002-04-22 2002-04-22 System and method for providing a single-layer video encoded bitstreams suitable for reduced-complexity decoding
PCT/IB2003/001608 WO2003090469A2 (en) 2002-04-22 2003-04-15 System and method for providing single-layer video encoded bitstreams suitable for reduced-complexity decoding

Publications (2)

Publication Number Publication Date
JP2005523658A JP2005523658A (ja) 2005-08-04
JP4393875B2 true JP4393875B2 (ja) 2010-01-06

Family

ID=29215287

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003587114A Expired - Fee Related JP4393875B2 (ja) 2002-04-22 2003-04-15 複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法

Country Status (7)

Country Link
US (1) US6985635B2 (ja)
EP (1) EP1500279A2 (ja)
JP (1) JP4393875B2 (ja)
KR (1) KR20040106364A (ja)
CN (1) CN1647540A (ja)
AU (1) AU2003216693A1 (ja)
WO (1) WO2003090469A2 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050185852A1 (en) * 2004-02-20 2005-08-25 Jiliang Song Method and apparatus to generate complex borders
KR100694059B1 (ko) * 2004-09-30 2007-03-12 삼성전자주식회사 멀티 타임 스캔 방식에 기초한 인터 모드 인코딩 및디코딩 방법 및 장치
WO2006054257A1 (en) * 2004-11-22 2006-05-26 Koninklijke Philips Electronics N.V. Motion vector field projection dealing with covering and uncovering
US8780957B2 (en) * 2005-01-14 2014-07-15 Qualcomm Incorporated Optimal weights for MMSE space-time equalizer of multicode CDMA system
CN101171843B (zh) * 2005-03-10 2010-10-13 高通股份有限公司 用于多媒体处理的内容分类
EP1768415A1 (en) * 2005-09-27 2007-03-28 Matsushita Electric Industrial Co., Ltd. Adaptive scan order of DCT coefficients and its signaling
US20090028239A1 (en) * 2005-05-03 2009-01-29 Bernhard Schuur Moving picture encoding method, moving picture decoding method and apparatuses using the methods
EP1768416A1 (en) * 2005-09-27 2007-03-28 Matsushita Electric Industrial Co., Ltd. Frequency selective video compression and quantization
US8879635B2 (en) * 2005-09-27 2014-11-04 Qualcomm Incorporated Methods and device for data alignment with time domain boundary
US8654848B2 (en) * 2005-10-17 2014-02-18 Qualcomm Incorporated Method and apparatus for shot detection in video streaming
US8948260B2 (en) * 2005-10-17 2015-02-03 Qualcomm Incorporated Adaptive GOP structure in video streaming
US20070206117A1 (en) * 2005-10-17 2007-09-06 Qualcomm Incorporated Motion and apparatus for spatio-temporal deinterlacing aided by motion compensation for field-based video
US20070171280A1 (en) * 2005-10-24 2007-07-26 Qualcomm Incorporated Inverse telecine algorithm based on state machine
US8780997B2 (en) * 2005-11-18 2014-07-15 Apple Inc. Regulation of decode-side processing based on perceptual masking
CN100405851C (zh) * 2005-11-18 2008-07-23 宁波中科集成电路设计中心有限公司 多模标准解码器中运动矢量预测复用设计方法
US20070147496A1 (en) * 2005-12-23 2007-06-28 Bhaskar Sherigar Hardware implementation of programmable controls for inverse quantizing with a plurality of standards
US8102916B1 (en) 2006-01-12 2012-01-24 Zenverge, Inc. Dynamically changing media compression format in compressed domain
US7830800B1 (en) 2006-01-12 2010-11-09 Zenverge, Inc. Architecture for combining media processing with networking
US8848789B2 (en) * 2006-03-27 2014-09-30 Qualcomm Incorporated Method and system for coding and decoding information associated with video compression
US9131164B2 (en) * 2006-04-04 2015-09-08 Qualcomm Incorporated Preprocessor method and apparatus
US8208553B2 (en) * 2006-05-04 2012-06-26 Altera Corporation Methods and apparatus for quarter-pel refinement in a SIMD array processor
US8311114B1 (en) 2006-12-06 2012-11-13 Zenverge, Inc. Streamlined transcoder architecture
US8605786B2 (en) * 2007-09-04 2013-12-10 The Regents Of The University Of California Hierarchical motion vector processing method, software and devices
US8265168B1 (en) 2008-02-01 2012-09-11 Zenverge, Inc. Providing trick mode for video stream transmitted over network
WO2009097284A1 (en) * 2008-02-01 2009-08-06 Zenverge, Inc. Intermediate compression of reference frames for transcoding
US9326004B2 (en) * 2008-06-03 2016-04-26 Broadcom Corporation Reduced memory mode video decode
KR101775555B1 (ko) * 2010-03-02 2017-09-07 삼성전자주식회사 동영상 패킷 생성 방법 및 그 장치
KR20120012301A (ko) * 2010-07-30 2012-02-09 삼성전자주식회사 디지털 방송에서의 확장 방송 서비스 송수신 방법 및 장치
TWI470999B (zh) * 2012-06-19 2015-01-21 Wistron Corp 編輯與儲存串流的方法、裝置、系統
US8724913B2 (en) * 2012-07-19 2014-05-13 Omnivision Technologies, Inc. Decoder and method for decoding run-length-encoded data

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69225365T2 (de) * 1991-08-30 1998-11-19 Fuji Xerox Co Ltd Bildsignalkodierungsvorrichtung
US5592302A (en) * 1992-03-23 1997-01-07 Canon Kabushiki Kaisha Coding method for coding pixel blocks and apparatus therefor
US5289548A (en) * 1992-06-30 1994-02-22 Loral Aerospace Corp. Compression and reconstruction of radiological images

Also Published As

Publication number Publication date
WO2003090469A2 (en) 2003-10-30
JP2005523658A (ja) 2005-08-04
EP1500279A2 (en) 2005-01-26
CN1647540A (zh) 2005-07-27
AU2003216693A8 (en) 2003-11-03
KR20040106364A (ko) 2004-12-17
US6985635B2 (en) 2006-01-10
WO2003090469A3 (en) 2004-02-05
US20030198293A1 (en) 2003-10-23
AU2003216693A1 (en) 2003-11-03

Similar Documents

Publication Publication Date Title
JP4393875B2 (ja) 複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法
JP3149418B2 (ja) 画像予測復号化方法及び装置
US7379496B2 (en) Multi-resolution video coding and decoding
US7792385B2 (en) Scratch pad for storing intermediate loop filter data
US7925107B2 (en) Adaptive variable block transform system, medium, and method
US7738716B2 (en) Encoding and decoding apparatus and method for reducing blocking phenomenon and computer-readable recording medium storing program for executing the method
JP4384130B2 (ja) 動画像復号方法及び装置
JP4889231B2 (ja) 画像符号化方法および装置、画像復号方法
EP1768415A1 (en) Adaptive scan order of DCT coefficients and its signaling
JP2005513883A (ja) スキップマクロブロックコード化
JP2010534015A (ja) 画像処理方法及び対応する電子装置
JP2005530423A (ja) 画像鮮鋭度を符号化中に最適化する方法及びシステム
JP2000324494A (ja) 動画像符号化装置
JP2008544621A (ja) ビデオエラー隠蔽を向上させる符号化及び復号の方法及び装置
JP3343554B1 (ja) 画像予測復号化方法及び画像予測符号化装置
RU2808075C1 (ru) Способ кодирования и декодирования изображений, устройство кодирования и декодирования и соответствующие компьютерные программы
JP3157144B1 (ja) 画像予測復号化方法
JP2002359852A (ja) 画像予測復号化装置及び方法
JP3343553B1 (ja) 画像予測符号化装置及び方法
CN113556547A (zh) 图像编解码方法及设备
JP4390009B2 (ja) 符号化装置及び方法、画像処理システム
Shoham et al. Introduction to video compression
JP2001268571A (ja) 動画像再符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060414

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090203

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090602

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090827

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090929

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091014

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131023

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131023

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131023

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees