JP4547151B2 - 空間的鮮明度拡張技術を用いた空間スケーラブル圧縮の機構 - Google Patents

空間的鮮明度拡張技術を用いた空間スケーラブル圧縮の機構 Download PDF

Info

Publication number
JP4547151B2
JP4547151B2 JP2003539339A JP2003539339A JP4547151B2 JP 4547151 B2 JP4547151 B2 JP 4547151B2 JP 2003539339 A JP2003539339 A JP 2003539339A JP 2003539339 A JP2003539339 A JP 2003539339A JP 4547151 B2 JP4547151 B2 JP 4547151B2
Authority
JP
Japan
Prior art keywords
bitstream
residual
extended
stream
input video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003539339A
Other languages
English (en)
Other versions
JP2005507586A (ja
JP2005507586A5 (ja
Inventor
ハー アー ブリュルス,ウィルヘルムス
ブレイン,フレデリク イェー デ
エル ダントワラ,ネハル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2005507586A publication Critical patent/JP2005507586A/ja
Publication of JP2005507586A5 publication Critical patent/JP2005507586A5/ja
Application granted granted Critical
Publication of JP4547151B2 publication Critical patent/JP4547151B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)

Description

本発明は、ビデオエンコーダー/デコーダーに関するものであり、特に、空間的鮮明度拡張技術を用いた空間スケーラブル圧縮の機構を備えたビデオエンコーダー/デコーダーに関するものである。
デジタル映像に固有の大量のデータのため、フルモーションの高画質のデジタル映像信号の送信は、高画質テレビの開発においてかなりの問題である。特に、各デジタル画像フレームは、特定のシステムの表示解像度による画素の配列から構成された静止画像である。結果として、高解像度の映像シーケンスに含まれるのデジタル情報量は大量になる。送信しなければならないデータ量を低減するために、圧縮の機構がデータを圧縮するために用いられる。MPEG-2とMPEG-4とH.263とを含む多様な映像圧縮規格又は処理が確立されている。
1つのストリームにおいて映像が多様な解像度及び/又は品質で利用可能な、多数のアプリケーションが可能にされている。これを達成する方法は、大まかにスケーラビリティの技術と称される。スケーラビリティを実施し得る3つの軸が存在する。第1のものは時間軸のスケーラビリティであり、しばしば時間スケーラビリティと称される。第2に、品質軸のスケーラビリティが存在し、しばしば信号対雑音スケーラビリティ又はファイン・グラニュラ・スケーラビリティと称される。第3軸は解像度の軸(画像における画素の数)であり、空間スケーラビリティ又は階層化コーディングと称される。階層化コーディングにおいて、ビットストリームは、2つ以上のビットストリーム、すなわちレイヤに分割される。各レイヤが組み合わせられ、単一の高品質の信号を構成し得る。例えば、下位レイヤが低品質の映像信号を提供する場合があり、上位レイヤが下位レイヤの画像を拡張し得る追加情報を提供する。
特に、空間スケーラビリティは、異なる映像規格又はデコーダーの性能の間で互換性を提供し得る。空間スケーラビリティで、下位レイヤの映像は入力映像シーケンスより低い解像度を有する場合があり、その場合、上位レイヤが下位レイヤの解像度を入力シーケンスのレベルに復元し得る情報を運ぶ。
図1は既知の階層化ビデオエンコーダー100を示したものである。描かれたエンコードシステム100は階層化圧縮を達成し、それによってチャネルの一部が低解像度の下位(基本)レイヤを提供するために用いられ、残りの部分が上位情報を送信するために用いられ、それによって、2つの信号が再結合され、システムを高解像度にし得る。高解像度の映像入力はスプリッタ102によって分割され、それによってデータが低域通過フィルタ104と減算回路106に送信される。低域通過フィルタ104は映像データの解像度を低減し、それが下位(基本)エンコーダー108に供給される。一般的に低域通過フィルタとエンコーダーは技術的に周知であり、簡潔のため、ここで詳細に説明されない。エンコーダー108は低解像度の下位(基本)ストリームを作り、それがシステム100から出力される第2のスプリッタ110に提供される。下位ストリームは放送され、受信され、デコーダーを介して現状のまま表示され得るが、下位ストリームは高画質と考えられる解像度を提供しない。
スプリッタ110の出力はまた、システム100内でデコーダー112に供給される。そこから、デコードされた信号が補間及びアップサンプル(upsample)回路114に供給される。一般的に、補間及びアップサンプル(upsample)回路114は、デコードされた映像ストリームからフィルタリングされた解像度を再構成し、高解像度の入力と同じ解像度を有する映像データストリームを作る。しかし、エンコードとデコードから生じる損失とフィルタリングのため、再構成されたストリームに情報の損失が存在する。元の変更されていない高解像度のストリームから再構成された高解像度のストリームを差し引くことによって、前記損失が減算回路106で判断される。減算回路106の出力は、適度な品質の上位ストリームを出力する上位エンコーダー116に供給される。
入力映像を低解像度にフィルタリングし、ダウンスケールし、その後それを圧縮することの不利点は、映像が鮮明度を失うことである。このことは、ある程度はデコーダーの後で鮮明度の拡張を用いることによって補われ得る。このことは、ビデオ画像の大部分について合理的にうまく作動するように作られ得るが、結果が元の画像に比べて質の悪い状態が残るいくつかの領域が画像内に存在し、例えば最も高度な拡張ですら、小さいテキスト部分が読みづらい状態になる。
本発明は、下位レイヤに複数の映像拡張技術を導入することにより、スケーラブル圧縮の機構の映像圧縮を増加させることによって、他の既知の階層化圧縮の機構の欠点を克服する。ビデオ画像分析装置を用いて、多様な映像拡張技術の最善の混合が判断され、前記混合を規定するパラメーターがユーザデータとしてデコーダー部分に送信される。ビデオ画像分析装置は、上位ビットストリームの選択された混合を元の最大解像度の入力信号と比較し、どの画素に残差の上位レイヤが必要であるかを判断する。
本発明の1つの実施例によると、入力映像ストリームをエンコードし、デコードする方法と装置が開示される。下位ビットストリームと残差ビットストリームが次の方法でエンコードされる。デコードされたアップスケールされた下位ビットストリームは、異なる拡張アルゴリズムを有する第1の複数の拡張ユニットで拡張され、複数の拡張された下位映像ストリームが出力される。入力映像ストリームが、デコードされたアップスケールされた下位ビットストリーム及び拡張された下位映像ストリームと比較され、映像分析装置の出力が残差ビットストリームに含まれる情報を制御する。下位ビットストリームと残差ビットストリームが次の方法でデコードされる。エンコーダーユニットで実行されたものと同じ拡張が、デコードされた下位ビットストリームで実行される。デコードされた残差ビットストリームがデコードされて拡張された下位映像ストリームに重ね合わされ、映像出力ビットストリームを作る。
本発明の他の実施例によると、拡張された下位映像ストリームとデコードされたアップスケールされた下位ビットストリームとの混合は、エンコードされた残差ビットストリームの情報、すなわちどの画素又は画素のグループがデコードされた残差ビットストリームに含まれるべきかを制御するために用いられ得る。
本発明の前記の及び他の形態が、後述の実施例から明らかになり、それを参照して説明される。
本発明の1つの実施例によると、空間的鮮明度拡張技術を用いた空間スケーラブル圧縮の機構が開示される。簡単には、フィルタリングされ、ダウンスケールされた映像シーケンスが圧縮される。その後、デコードされた下位レイヤのフレームから、多様な拡張アルゴリズムを用いていくつかのアップスケールされたバージョンが処理される。前記のものは、多様な鮮明度拡張アルゴリズムのバージョンと同様に、標準的なアップスケールされてフィルタリングされたバージョン、例えばナイキストフィルタリング(nyquist filter)されたバージョンを含む。画像分析装置は全ての情報を処理し、前記のバージョンの最善のもの又は最善の混合を選択する。選択された混合を規定する混合パラメーターはまた、デコーダーが正確に前記拡張を再現し得るように、ユーザデータとしてエンコードされた残差ビットストリームに挿入される。
しかし、鮮明度拡張フレームのいくつかの領域において、結果が不適当に残る。エンコーダーで拡張フレームと利用可能な元の最大解像度のフレームとを比較することによって、前記領域が検出され得る。前記検出された領域のみが圧縮され、上位レイヤに入力される残差ビットストリームの一部になる。デコーダーが下位レイヤのダウンスケールされたビットストリームをデコードし、エンコーダーで実行されたものと同じ拡張パラメーターをデコードされた出力で適用する。その後、デコーダーは残差ビットストリームをデコードし、デコードされたビットストリームを既にデコードされて拡張された下位レイヤのフレームの画素に重ね合わせる。
この実施例は、本発明で用いられ得るエンコーダー/デコーダーのブロック図である図2を参照して、更に詳細に説明される。描かれたエンコード/デコードシステム200は階層化圧縮を達成し、それによってチャネルの一部が低解像度の下位(基本)レイヤを提供するために用いられ、残りの部分が上位情報を送信するために用いられ、それによって、2つの信号が再結合され、システムを高解像度にし得る。高解像度の映像入力201はスプリッタ210によって分割され、それによってデータが低域通過フィルタ212、例えばナイキストフィルタ(nyquist filter)と、スプリッタ232に送信される。低域通過フィルタ210は映像データの解像度を低減し、それが下位(基本)エンコーダー214に供給される。一般的に、低域通過フィルタとエンコーダーは技術的に周知であり、簡潔さのためここで詳細に説明されない。下位エンコーダー214は低解像度の下位(基本)ストリーム215を作る。下位ストリームは放送され、受信され、デコーダーを介して現状のまま表示され得るが、下位ストリームは高画質と考えられる解像度を提供しない。
エンコーダーはまた、デコードされた下位ストリームをアップスケール回路216に出力する。更に、デコーダー(図示なし)は、エンコーダーの後の回路に挿入され、アップスケール回路216に送信される前にエンコーダーの出力をデコードし得る。一般的に、アップスケール回路216はデコードされた映像ストリームからフィルタリングされた解像度を再構成し、高解像度の入力と同じ解像度を有する映像データストリームを提供する。アップスケール回路216からのアップスケールされたビットストリームv1は、スプリッタ218によって分割され、画像分析装置230と減算回路234とスプリッタ220とに入力される。スプリッタ220からのアップスケールされたビットストリームv1は、拡張ユニット222と224に入力される。それぞれの拡張ユニットは、以下に更に詳細に説明される異なる空間的拡張アルゴリズムで動作する。図2は2つの拡張ユニットを有するが、何らかの数の拡張ユニットが本発明において用いられ得ることがわかる。
多数の映像拡張技術が存在し、それら全てが、結果の画像の認識が改善されるように画像のコンテンツを修正する。前記拡張の主観的な特徴が最適化処理を複雑にし、おそらく映像拡張アルゴリズムの多様性の原因になる。多様な拡張アルゴリズムは、どうにかして画像品質に貢献し、結果として、しばしば一連で個々の強みから利益を得るようにみえる。ノイズ低減アルゴリズムと鮮明度改善アルゴリズムは、拡張アルゴリズムの多数のセットのうちの少しの例である。本発明において、前記既知の拡張アルゴリズムの何らかが用いられ得ることがわかる。
高品質の空間的拡張機能は、鮮明度の異なる形態に貢献するアルゴリズムの集合で構成される。いくつかのアルゴリズムは、勾配を増加させることによって画像の階調度のみを改善するのに対して、他のものは階調度の大きさを修正する。前記アルゴリズムは相互に排他的であると考えられ得るが、このことは決して真実ではない。階調度の特徴を改善する双方の手段が用いられる場合があり、所定のモデルがそれぞれのアルゴリズムの個々の貢献を判断する。
図2を参照すると、アップスケールされたビットストリームv1は、拡張ユニット222と224で、各ユニットの拡張アルゴリズムに従って処理される。拡張ユニット222と224からの結果の映像ストリームは、それぞれ減算ユニット226と228に入力され、ビットストリームv1が拡張ユニット222と224からの結果の映像ストリームから差し引かれ、それぞれ映像ストリームv2とv3を作る。映像ストリームv2とv3は、画像分析装置230に入力される。入力ビットストリーム201はまた、スプリッタ232を介して画像分析装置230に入力される。画像分析装置230は元のビットストリームとv1、v2及びv3を比較し、画像を拡張するのに最善の方法を判断する。画像分析装置によって実行される画像分析は、多様な方法で実行され得る。例えば、画像分析装置230は元の画像とv1、v2及びv3を比較し、元の画像に最も近い映像ストリーム(v1、v2又はv3)を選択する。その他、画像分析装置は、映像ストリームの組み合わせから最適の全体の画像品質が達成されるように、混合パラメーター(α,β)又は拡張ベクトルを用いて異なるビットストリームの混合を用い得る。例えば、画像分析装置は、拡張された下位映像ストリームの混合を計算する混合パラメーターを表すベクトルを選択し、選択されたベクトルを用いて残差ビットストリームの情報を制御し得る。更に、図3を参照して以下に説明される通り、最善の混合パラメーターを判断する際に、ビットコストの関数もまた用いられ得る。説明されたもの以外の機構が画像分析装置230にもちいられ得ることがわかり、本発明はそれに限定されない。
画像分析装置230に混合パラメーターを用いる多数の利点が存在する。第1に、これは完全にスケーラブルなシステムである。画像の鮮明度に貢献する更なる機能が存在する場合は、それが容易に原因になり得る。新しい機能がシステムに最適化される必要はない。第2に、適切な拡張ベクトルを決定する際に、多様な機能の相互依存性が原因になり得る。第3に、時空的整合性モデルが画像分析装置230に組み込まれ得る。
アップスケール回路216のアップスケールされた出力は、減算回路234で元の入力201から差し引かれ、スイッチ236に適用される残差ビットストリームを作る。スイッチは画像分析装置230の出力によって制御される。多様な拡張された下位映像ストリームと入力映像ビットストリーム201を比較することによって、画像分析装置230は、どの画素又は画素のグループ(ブロック)が上位レイヤ208によって更に拡張される必要があるかを判断し得る。画像分析装置230によって拡張の必要があると判断される画素又は画素のグループ(ブロック)について、画像分析装置230はスイッチ236を閉じる制御信号を出力し、残差ビットストリームの前記の部分を上位レイヤのエンコーダー240に通す。画像分析装置230はまた、選択された混合パラメーターとスイッチのための制御信号をエンコーダー240に送信し、それ故に、前記情報がスイッチ236からの結果の残差ビットストリームでエンコードされ、上位ストリーム241として出力される。
デコーダー部分204において、下位ストリーム215は下位デコーダー250に送信され、上位ストリーム241は上位デコーダー252に送信される。デコーダー250は、下位ストリーム215をデコードし、それがアップスケール回路254によってアップスケールされる。アップスケールされたデコードされたビットストリームは、スプリッタ256によって分割され、拡張ユニット262と264、併合ユニット270及び加算ユニット272に送信される。拡張ユニット262は拡張ユニット222と同じ空間的拡張アルゴリズムを有し、拡張ユニット264は拡張ユニット224と同じ空間的拡張アルゴリズムを有する。拡張ユニット262と264はそれぞれのアルゴリズムを実行し、併合ユニット270に出力v2とv3を送信する。
上位デコーダー252は、上位ストリームをデコードし、残差ビットストリームを加算ユニット272に出力する。更に、デコーダー252は混合パラメーターと制御信号をデコードし、この情報を併合ユニット270に送信する。併合ユニットは全ての入力を合わせて併合し、画像分析装置230からの拡張出力を生成する。アップスケールされたデコードされた下位ストリームとデコードされた残差ビットストリームが加算ユニット272によって一緒に組み合わされ、結果のビットストリームがスイッチ274に適用される。スイッチ274は、制御信号によって制御され、それ故に、併合ユニット270の出力が、出力信号276を作るように、加算ユニット272によって出力されるビットストリームの適切な画素又はブロックに適用され得る。
図3は、本発明の他の実施例によるエンコーダー/デコーダー300のブロック図である。図3の多数の構成要素は図2に示された構成要素と同じであり、それらは同じ参照番号が与えられている。更に、簡潔さのため、類似の構成要素の動作は説明されない。この実施例において、個々の拡張信号v2, v3,…について混合パラメーターα,β,…を判断する際にコストの関数が用いられる。本発明の1つの実施例によると、拡張ベクトルがブロック毎に割り当てられる。時空的に近くからの以前に決定された最善の拡張ベクトルが、図4に示す通り、コストの関数で評価される。コストの関数は、目的の画像品質に関する測定基準を計算する。拡張ベクトルの最善の評価が最小のコストを生じるものによって規定される。すなわち、最善のベクトル=min e(αii,…)であり、i=1,2,…は候補の数であり、e()はパラメーターとしてのベクトルαii,…でのコストの関数である。
コストの関数は、高品質と加工物の防止の機構を規定する全ての要素をそれ自体に組み込むべきである。例えば、鮮明度の拡張の関数の場合、階調度の勾配が重要な要素であり、コストの関数において原因になるべきである。鮮明度の改善から生じるエイリアシング(aliasing)のような加工物もまた、コストの関数に含まれるべきである。コストの関数は品質の指標としての役割をする。
図3を参照すると、上位レイヤのエンコーダー240は、ビットコストの情報を画像分析装置230に送信する。パラメーターα,β,…の限られたセットについての混合信号Ve(α,β,…)から、コストの関数が計算される。信号Ve(α,β,…)の画像品質が良いほど、コストの関数が低くなる。それぞれの画素又は画素のグループについてα,β,…のいくつかのベクトルが検査される。その後、最小のコストの関数を備えたテストのベクトルが選択される。1つの実施例について、いくつかのテストのベクトルは、時間及び空間(以前のフレーム)について近くの画素のグループの既に選択されたベクトルである。例えば、図4に示されるベクトルλ1β12β23β3は、テストされる画素のグループの近くである。更に、1つ以上のベクトルがランダムなオフセットを備えて選択され得る。画像分析装置は、Ve=v1+αv2+βv3とVb=v1+λv2+μV3を出力し、αとβは混合パラメーターであり、λとμはコストの関数のパラメーターである。この実施例において、信号Vbが減算器234で元の入力ビットストリームから差し引かれ、残差ビットストリームを形成する。最終的なコストの関数が所定の閾値の制限を超えると常に、画像分析装置が信号sをスイッチ236に出力し、それ故にスイッチが閉じ、その画素のグループについて残差ビットストリームがエンコーダー240でエンコードされる。更に、画像分析装置はまた、制御信号と混合パラメーターとコストの関数をエンコーダー240に送信し、それらはコード化されて上位ストリーム241に挿入される。上位ストリームが上位デコーダー252でデコードされると、混合パラメーターとコストの関数がデコードされ、併合ユニット270に送信される。併合ユニットは、加算ユニット272でデコードされた上位ストリームに加えられるVbを出力し、結果のビットストリームがスイッチ274に適用される。スイッチ274は制御信号Sによって制御され、それ故に併合ユニット270からのVeが、出力信号276を作るように、加算ユニット272によって出力されるビットストリームの適切な画素又はブロックに適用され得る。
本発明の前述の実施例は、規定の拡張ベクトルを介して複数の拡張された下位ビットストリームの最善なもの又はその混合を選択し、エンコードされた残差ビットストリームの情報を制御するために、画像分析装置を用いることによって、空間スケーラブル圧縮の効率を高める。本発明の異なる実施例は前述のステップの正確な順番に限定されず、本発明の全体の動作に影響を与えることなく、いくつかのステップのタイミングが交換され得ることがわかる。更に、“有する”という言葉は、他の要素又はステップを除外するものではなく、“1つ”という言葉は複数を除外するものではなく、単一のプロセッサ又は他のユニットが請求項に記載のいくつかのユニット又は回路の機能を実行し得る。
既知の階層化ビデオエンコーダーを表したブロック図である。 本発明の1つの実施例による階層化ビデオエンコーダー/デコーダーのブロック図である。 本発明の1つの実施例による階層化ビデオエンコーダー/デコーダーのブロック図である。 本発明の1つの実施例によるベクトルの候補のセットの位置を示したものである。

Claims (14)

  1. 入力映像ビットストリームをエンコードする階層化エンコーダーであって、
    低解像度での下位ビットストリームと残差ビットストリームをエンコードする階層化エンコーダーユニットであり、前記残差ビットストリームが、前記入力映像ビットストリームと、デコード後のアップスケールされた下位ビットストリームから生成されたビットストリームとの差を表す階層化エンコーダーユニットを有し、
    前記階層化エンコーダーユニットが、
    前記デコード後のアップスケールされた下位ストリームを拡張し、拡張された下位映像ストリームを出力する異なる空間的鮮明度拡張アルゴリズムをそれぞれが備えた複数の拡張ユニットと、
    画素の値の差に基づいて、前記デコード後のアップスケールされた下位ビットストリーム及び前記拡張された下位映像ストリームと前記入力映像ビットストリームとを比較し、前記残差ビットストリームのどの部分がエンコードされるかを制御する制御信号を生成する画像分析装置と
    を有する階層化エンコーダー。
  2. 請求項1に記載の階層化エンコーダーであって、
    前記画像分析装置が、前記拡張された下位映像ストリームの混合を計算する混合パラメーターを表すベクトルを選択し、前記選択されたベクトルを用いて前記残差ビットストリームの情報を制御する階層化エンコーダー。
  3. 請求項2に記載の階層化エンコーダーであって、
    それぞれの画素のグループが、異なるベクトルを用いて拡張される階層化エンコーダー。
  4. 請求項1に記載の階層化エンコーダーであって、
    前記階層化エンコーダーユニットが、
    前記入力映像ビットストリームの解像度を低減するダウンサンプル(downsample)ユニットと、
    前記低解像度の下位ストリームをエンコードし、エンコードされた下位ストリームを生成する下位エンコーダーと、
    前記エンコードされた下位ストリームをデコードして前記デコードされた下位ストリームの解像度を増加させ、アップスケールされた下位ビットストリームを作るアップスケールユニットと、
    前記入力映像ビットストリームから前記アップスケールされた下位ビットストリームを差し引き、前記残差ビットストリームを作る減算ユニットと、
    前記画像分析装置からの前記制御信号に基づき、前記残差ビットストリームの一部のみが上位エンコーダーに送信されることを選択的に可能にするスイッチング手段と、
    前記スイッチング手段を通過する前記残差ビットストリームの前記一部をエンコードし、前記エンコードされた残差ビットストリームを形成する上位エンコーダーと
    を更に有する階層化エンコーダー。
  5. 下位ビットストリームと残差ビットストリームをデコードする階層化デコーダーユニットであり、前記残差ビットストリームが、入力映像ビットストリームと、前記入力映像ビットストリームの一部についてデコード後のアップスケールされた下位ビットストリームから生成されたビットストリームとの差を表す階層化デコーダーユニットであって、
    エンコードされた下位ビットストリームをデコード及びアップスケールする手段と、
    前記デコード及びアップスケールされた下位ビットストリームを拡張する手段であり、拡張された下位映像ストリームを出力する異なる空間的鮮明度拡張アルゴリズムを有する複数の拡張ユニットを有する手段と、
    前記入力映像ビットストリームの前記一部について前記拡張された下位映像ストリームに前記デコードされた残差ビットストリームを重ね合わせる手段と
    を有する階層化デコーダーユニット。
  6. 請求項に記載の階層化デコーダーユニットであって、
    前記デコーダーが、前記拡張された下位映像ストリームを作るために、前記複数の拡張ユニットによって作られた拡張された下位ストリームの混合を計算する混合パラメーターを表すベクトルを受信するように構成された階層化デコーダーユニット。
  7. 入力映像ビットストリームをエンコードする方法であって、
    下位ビットストリーム及び残差ビットストリームをエンコードするステップであり、前記残差ビットストリームが、前記入力映像ビットストリームと、デコード後のアップスケールされた下位ビットストリームから生成されたビットストリームとの差を表すステップを有し、
    前記エンコードするステップが、
    拡張された下位映像ストリームを出力する複数の異なる空間鮮明度拡張アルゴリズムで前記デコード後のアップスケールされた下位ビットストリームを拡張するステップと、
    前記デコード後のアップスケールされた下位ビットストリーム及び前記拡張された下位映像ストリームと前記入力映像ビットストリームとを比較し、残差ビットストリームのどの部分がエンコードされるかを制御する制御信号を生成するステップと
    を有する方法。
  8. 請求項に記載の方法であって、
    前記拡張された下位映像ストリームの混合を計算する混合パラメーターを表すベクトルが選択され、前記選択されたベクトルを用いて前記残差ビットストリームの情報を制御する方法。
  9. 請求項に記載の方法であって、
    それぞれの画素のグループが、異なるベクトルを用いて拡張される方法。
  10. 請求項に記載の方法であって、
    前記入力映像ビットストリームの解像度を低減するステップと、
    前記の低い方の解像度の下位ストリームをエンコードし、エンコードされた下位ストリームを生成するステップと、
    前記エンコードされた下位ストリームをデコードして前記デコードされた下位ストリームの解像度を増加させ、アップスケールされた下位ビットストリームを作るステップと、
    前記入力映像ビットストリームから前記アップスケールされた下位ビットストリームを差し引き、前記残差ビットストリームを作るステップと、
    画像分析装置からの前記制御信号に基づき、前記残差ビットストリームの一部のみが上位エンコーダーに送信されることを選択的に可能にするステップと、
    前記残差ビットストリームの前記選択的に可能にされた一部をエンコードし、前記エンコードされた残差ビットストリームを形成するステップと
    を更に有する方法。
  11. 下位ビットストリームと残差ビットストリームをデコードする方法であり、前記残差ビットストリームが、入力映像ビットストリームと、前記入力映像ビットストリームの一部についてデコード後のアップスケールされた下位ビットストリームから生成されたビットストリームとの差を表す方法であって、
    前記デコード後の下位ビットストリームをデコード及びアップスケールするステップと、
    拡張された下位映像ストリームを出力する複数の異なる空間的鮮明度拡張アルゴリズムで、前記デコード及びアップスケールされた下位ビットストリームを拡張するステップと、
    前記入力映像ビットストリームの前記一部について前記拡張された下位映像ストリームに前記デコードされた残差ビットストリームを重ね合わせるステップと
    を有する方法。
  12. 請求項11に記載の方法であって、
    前記拡張された下位映像ストリームを作るために、複数の拡張ユニットによって作られた拡張された下位ストリームの混合を計算する混合パラメーターを表すベクトルを受信するステップを更に有する方法。
  13. コンピュータに請求項に記載のステップを実行させるコンピュータプログラム。
  14. コンピュータに請求項11に記載のステップを実行させるコンピュータプログラム。
JP2003539339A 2001-10-26 2002-10-16 空間的鮮明度拡張技術を用いた空間スケーラブル圧縮の機構 Expired - Fee Related JP4547151B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP01204066 2001-10-26
EP02075917 2002-03-08
PCT/IB2002/004298 WO2003036980A1 (en) 2001-10-26 2002-10-16 Spatial scalable compression scheme using spatial sharpness enhancement techniques

Publications (3)

Publication Number Publication Date
JP2005507586A JP2005507586A (ja) 2005-03-17
JP2005507586A5 JP2005507586A5 (ja) 2006-01-12
JP4547151B2 true JP4547151B2 (ja) 2010-09-22

Family

ID=26077020

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003539339A Expired - Fee Related JP4547151B2 (ja) 2001-10-26 2002-10-16 空間的鮮明度拡張技術を用いた空間スケーラブル圧縮の機構

Country Status (6)

Country Link
US (1) US7421127B2 (ja)
EP (1) EP1442603B1 (ja)
JP (1) JP4547151B2 (ja)
KR (1) KR100927967B1 (ja)
CN (1) CN100518315C (ja)
WO (1) WO2003036980A1 (ja)

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003102868A2 (en) 2002-05-29 2003-12-11 Pixonics, Inc. Classifying image areas of a video signal
ES2672109T3 (es) * 2003-01-30 2018-06-12 Koninklijke Philips N.V. Codificación de vídeo
US20130107938A9 (en) * 2003-05-28 2013-05-02 Chad Fogg Method And Apparatus For Scalable Video Decoder Using An Enhancement Stream
EP1634461A2 (en) * 2003-06-19 2006-03-15 THOMSON Licensing Method and apparatus for low-complexity spatial scalable decoding
FR2858741A1 (fr) 2003-08-07 2005-02-11 Thomson Licensing Sa Dispositif et procede de compression d'images numeriques
CN100563342C (zh) * 2004-06-25 2009-11-25 松下电器产业株式会社 图象编码方法和图象解码方法
JP2006174415A (ja) 2004-11-19 2006-06-29 Ntt Docomo Inc 画像復号装置、画像復号プログラム、画像復号方法、画像符号化装置、画像符号化プログラム及び画像符号化方法
WO2006087319A2 (en) * 2005-02-18 2006-08-24 Thomson Licensing Method for deriving coding information for high resolution pictures from low resoluton pictures and coding and decoding devices implementing said method
US7876833B2 (en) 2005-04-11 2011-01-25 Sharp Laboratories Of America, Inc. Method and apparatus for adaptive up-scaling for spatially scalable coding
KR20070012201A (ko) * 2005-07-21 2007-01-25 엘지전자 주식회사 영상 신호의 인코딩 및 디코딩 방법
EP3070922A1 (en) 2005-12-08 2016-09-21 Vidyo, Inc. Systems and methods for error resilience and random access in video communication systems
JP4565393B2 (ja) * 2005-12-22 2010-10-20 日本ビクター株式会社 映像信号階層符号化装置、映像信号階層符号化方法、及び映像信号階層符号化プログラム
JP4565392B2 (ja) * 2005-12-22 2010-10-20 日本ビクター株式会社 映像信号階層復号化装置、映像信号階層復号化方法、及び映像信号階層復号化プログラム
US8693538B2 (en) * 2006-03-03 2014-04-08 Vidyo, Inc. System and method for providing error resilience, random access and rate control in scalable video communications
JP4844456B2 (ja) * 2006-06-15 2011-12-28 日本ビクター株式会社 映像信号階層符号化装置、映像信号階層符号化方法、及び映像信号階層符号化プログラム
JP4844455B2 (ja) * 2006-06-15 2011-12-28 日本ビクター株式会社 映像信号階層復号化装置、映像信号階層復号化方法、及び映像信号階層復号化プログラム
JP4889403B2 (ja) * 2006-08-03 2012-03-07 日本放送協会 Tv法を用いた画像符号化装置及び復号化装置
US8250618B2 (en) 2006-09-18 2012-08-21 Elemental Technologies, Inc. Real-time network adaptive digital video encoding/decoding
BRPI0622064A2 (pt) 2006-10-25 2014-05-27 Thomson Licensing Novos elementos de sintaxe para padrões de codificação de vídeo com fornecimento de suporte para capacitação de profundidade de bit de cor
WO2008084423A1 (en) * 2007-01-08 2008-07-17 Nokia Corporation Improved inter-layer prediction for extended spatial scalability in video coding
US8462856B2 (en) * 2007-01-09 2013-06-11 Vidyo, Inc. Systems and methods for error resilience in video communication systems
US8184715B1 (en) 2007-08-09 2012-05-22 Elemental Technologies, Inc. Method for efficiently executing video encoding operations on stream processor architectures
JP2010287917A (ja) * 2007-09-26 2010-12-24 Toshiba Corp 画像符号化/画像復号化装置及び方法
US8121197B2 (en) 2007-11-13 2012-02-21 Elemental Technologies, Inc. Video encoding and decoding using parallel processors
JP5369893B2 (ja) * 2008-05-30 2013-12-18 株式会社Jvcケンウッド 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、動画像復号装置、動画像復号方法、動画像復号プログラム、動画像再符号化装置、動画像再符号化方法、動画像再符号化プログラム
US8885967B2 (en) * 2009-01-19 2014-11-11 Csr Technology Inc. Method and apparatus for content adaptive sharpness enhancement
US8503814B2 (en) * 2009-01-19 2013-08-06 Csr Technology Inc. Method and apparatus for spectrum estimation
JP5262879B2 (ja) * 2009-03-18 2013-08-14 株式会社Jvcケンウッド 再符号化装置および再符号化方法
US9729899B2 (en) 2009-04-20 2017-08-08 Dolby Laboratories Licensing Corporation Directed interpolation and data post-processing
KR101750048B1 (ko) 2009-11-13 2017-07-03 삼성전자주식회사 변속 재생 서비스 제공 방법 및 장치
KR101750049B1 (ko) 2009-11-13 2017-06-22 삼성전자주식회사 적응적인 스트리밍 방법 및 장치
KR101786051B1 (ko) 2009-11-13 2017-10-16 삼성전자 주식회사 데이터 제공 방법 및 장치와 데이터 수신 방법 및 장치
KR101777347B1 (ko) 2009-11-13 2017-09-11 삼성전자주식회사 부분화에 기초한 적응적인 스트리밍 방법 및 장치
KR101737084B1 (ko) 2009-12-07 2017-05-17 삼성전자주식회사 메인 콘텐트에 다른 콘텐트를 삽입하여 스트리밍하는 방법 및 장치
KR101768207B1 (ko) 2010-01-19 2017-08-16 삼성전자주식회사 축소된 예측 움직임 벡터의 후보들에 기초해 움직임 벡터를 부호화, 복호화하는 방법 및 장치
KR101777348B1 (ko) 2010-02-23 2017-09-11 삼성전자주식회사 데이터 전송 방법 및 장치와 데이터 수신 방법 및 장치
DE102010010736A1 (de) * 2010-03-09 2011-09-15 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Verfahren zur Kompression von Bilddaten
KR20110105710A (ko) 2010-03-19 2011-09-27 삼성전자주식회사 복수의 챕터를 포함하는 콘텐트를 적응적으로 스트리밍하는 방법 및 장치
KR101837687B1 (ko) 2010-06-04 2018-03-12 삼성전자주식회사 콘텐트의 품질을 결정하는 복수의 인자에 기초한 적응적인 스트리밍 방법 및 장치
US9467692B2 (en) 2012-08-31 2016-10-11 Qualcomm Incorporated Intra prediction improvements for scalable video coding
CN109547784A (zh) * 2017-09-21 2019-03-29 华为技术有限公司 一种编码、解码方法及装置
US10687083B2 (en) * 2018-06-06 2020-06-16 Intel Corporation Loop restoration filtering for super resolution video coding
GB2583087B (en) 2019-04-11 2023-01-04 V Nova Int Ltd Decoding a video signal in a video decoder chipset
GB2628763A (en) * 2023-03-31 2024-10-09 V Nova Int Ltd Signal processing system

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5408270A (en) * 1993-06-24 1995-04-18 Massachusetts Institute Of Technology Advanced television system
US5828788A (en) * 1995-06-29 1998-10-27 Thomson Multimedia, S.A. System for processing data in variable segments and with variable data resolution
JPH1070717A (ja) * 1996-06-19 1998-03-10 Matsushita Electric Ind Co Ltd 画像符号化装置及び画像復号化装置
US6011872A (en) * 1996-11-08 2000-01-04 Sharp Laboratories Of America, Inc. Method of generalized content-scalable shape representation and coding
TW358296B (en) * 1996-11-12 1999-05-11 Matsushita Electric Ind Co Ltd Digital picture encoding method and digital picture encoding apparatus, digital picture decoding method and digital picture decoding apparatus, and data storage medium
KR100295798B1 (ko) * 1997-07-11 2001-08-07 전주범 스케일러빌리티를구현한이진현상신호부호화장치
KR100269125B1 (ko) * 1997-10-25 2000-10-16 윤덕용 양자화효과감소를위한영상데이터후처리방법및장치
AU1928999A (en) * 1997-12-19 1999-07-12 Kenneth Rose Scalable predictive coding method and apparatus
JPH11331613A (ja) * 1998-05-20 1999-11-30 Matsushita Electric Ind Co Ltd 階層型映像信号符号化装置と階層型映像信号復号化装置
US6292512B1 (en) * 1998-07-06 2001-09-18 U.S. Philips Corporation Scalable video coding system

Also Published As

Publication number Publication date
US20050105814A1 (en) 2005-05-19
EP1442603A1 (en) 2004-08-04
EP1442603B1 (en) 2014-12-17
KR20040054748A (ko) 2004-06-25
CN100518315C (zh) 2009-07-22
CN1575601A (zh) 2005-02-02
KR100927967B1 (ko) 2009-11-24
WO2003036980A1 (en) 2003-05-01
JP2005507586A (ja) 2005-03-17
US7421127B2 (en) 2008-09-02

Similar Documents

Publication Publication Date Title
JP4547151B2 (ja) 空間的鮮明度拡張技術を用いた空間スケーラブル圧縮の機構
JP2005507586A5 (ja)
JP2005506816A5 (ja)
US8953673B2 (en) Scalable video coding and decoding with sample bit depth and chroma high-pass residual layers
JP2005506816A (ja) 適応的コンテンツフィルタリングを用いた空間拡張可能圧縮の機構
KR102062764B1 (ko) 모바일 단말 화면을 위한 3k해상도를 갖는 디스플레이 영상 생성 방법 및 장치
US20050002458A1 (en) Spatial scalable compression
JP2005506815A5 (ja)
JP2005507590A (ja) 空間拡張可能圧縮
JP2005507590A5 (ja)
CN103098471A (zh) 用于多层画面编码/解码的设备和方法
KR20060126984A (ko) 데드 존을 갖는 공간 스케일링 가능한 압축 기법
EP1056296A2 (en) Decoding apparatus, decoding method, encoding apparatus, encoding method, image processing system and image processing method
KR20060123375A (ko) 호환 인터레이싱된 sdtv 및 순차 hdtv
KR102163477B1 (ko) 비디오 부호화 및 복호화 방법, 그를 이용한 장치
JP4844455B2 (ja) 映像信号階層復号化装置、映像信号階層復号化方法、及び映像信号階層復号化プログラム
JP4844456B2 (ja) 映像信号階層符号化装置、映像信号階層符号化方法、及び映像信号階層符号化プログラム
KR100994947B1 (ko) 비디오 코딩
JP4133581B2 (ja) テロップ合成装置、テロップ合成方法及びテロップ合成プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051013

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081007

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090818

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091117

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100608

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100705

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130709

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4547151

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees