JP2011524708A - フレームの1つ以上の画素を補間するためのフィルタを決定する方法 - Google Patents

フレームの1つ以上の画素を補間するためのフィルタを決定する方法 Download PDF

Info

Publication number
JP2011524708A
JP2011524708A JP2011513966A JP2011513966A JP2011524708A JP 2011524708 A JP2011524708 A JP 2011524708A JP 2011513966 A JP2011513966 A JP 2011513966A JP 2011513966 A JP2011513966 A JP 2011513966A JP 2011524708 A JP2011524708 A JP 2011524708A
Authority
JP
Japan
Prior art keywords
filter
interpolation
pixels
determined
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011513966A
Other languages
English (en)
Other versions
JP5211240B2 (ja
Inventor
フランソワ,エドゥアル
トロ,ドミニク
ヴィロン,ジェローム
マルタン,オレリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2011524708A publication Critical patent/JP2011524708A/ja
Application granted granted Critical
Publication of JP5211240B2 publication Critical patent/JP5211240B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/523Motion estimation or motion compensation with sub-pixel accuracy
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H04N19/635Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by filter definition or implementation details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本発明は、フレームに含まれる1つ以上の画素を補間するためのフィルタを決定する方法に関する。提案する方法は、フレームの残りの部分内の他の画素に基づいてフィルタを決定するステップを有し、前記画素に関する動きベクトルは、前記他の画素に関する別の動きベクトルと共通する少なくとも1つの動きパラメータを有し、決定されたフィルタの助けを借りて決定される前記他の画素の補間の品質が、フィルタ候補の組に含まれる複数の異なるフィルタ候補のうちの1つの助けを借りて決定可能な前記他の画素の如何なるその他の補間の品質にも達する、あるいは上回るように、フィルタが決定される。同一フレームの異なる他の画素上のみでフィルタを決定することにて、当該補間のためのフィルタを決定する方法は、単一パスの符号化方式の実現を可能にする。

Description

本発明は、フレームに含まれる1つ以上の画素を補間するためのフィルタを決定する方法に関する。本発明は更に、フレームを符号化あるいは復号化する方法であって、符号化又は復号化が上記フィルタの決定方法を使用する方法に関する。本発明は更に、フレームを符号化あるいは復号化する装置であって、上記符号化方法又は復号化方法を使用する装置に関する。
インターピクチャーのコーディングに関し、一部のビデオ符号化方式は、水平フェーズ及び/又は垂直フェーズにより指し示される小さい画素解像度での動きベクトルと、該水平フェーズ及び/又は垂直フェーズに関連付けられた対応する補間フィルタとに基づく動き補償の助けを借りた時間予測を使用している。
エイリアシング・アーチファクトを抑制するために、補間フィルタは適応できるものにされ得る。このアプローチは以下のステップからなる。
第1の符号化段階(パス)において、初期設定のデフォルト補間フィルタを用いてフレームが符号化される。
計算された動きベクトルに基づいて、最適なポリフェーズ補間フィルタが計算される。すなわち、現在の信号(現信号)と該現信号の動き補償補間との間の予測誤差エネルギーを最小化する補間フィルタが決定される。
第2の符号化パスにおいて、計算された補間フィルタが使用される。計算された補間フィルタのフィルタ係数が、そのフレームとともに符号化される。
特許文献1に、探索空間に位置付けられる複数の別個の補間フィルタが記載されている。選択された現在のミニマムフィルタに基づいて、複数の候補フィルタを有する探索領域が特定される。最小の予測誤差をもたらす候補フィルタが新しいミニマムフィルタとして特定され、予測誤差が最小化されるまで探索が繰り返される。
補間を改善すること、並びに符号化時間のレイテンシ及び伝送帯域幅を低減することに向けて、継続的な努力が為されている。
米国特許出願公開第2004/0076333号明細書
本発明はこの努力に携わるものである。フレームに含まれる1つ以上の画素を補間するためのフィルタを決定する方法が提案される。
当該方法は請求項1の特徴を有する。すなわち、当該方法は、前記フレームの残りの部分内の他の画素を決定するステップであり、該他の画素に関する動きベクトルが、前記画素に関する別の動きベクトルと同一の基準フレームと同一の水平フェーズ及び/又は垂直フェーズとを参照する、他の画素を決定するステップと、前記フレームの前記残りの部分内の他の画素に基づいて前記フィルタを決定するステップとを有し、決定されたフィルタを用いて決定される前記他の画素の補間の品質が、フィルタ候補の組に含まれる複数の異なるフィルタ候補のうちの1つを用いて決定可能な前記他の画素の如何なるその他の補間の品質にも達する、あるいは上回るように、前記フィルタが決定される。
補間フィルタの決定を、同一フレームに含まれ且つフィルタリングすべき画素と共通の少なくとも1つの動きベクトルパラメータを有する異なる他の画素のみにリレーすることにて、当該補間のためのフィルタを決定する方法は、単一パスの符号化方式の実現を可能にする。
一実施形態において、複数の異なるフィルタ候補は、フィルタ種類、フィルタリングパラメータの数、及び/又はフィルタリングパラメータに割り当てられた値において異なる。
フィルタ種類は、中央値補間、線形補間、双線形補間、双三次補間、及び勾配に基づく補間のうちの1つとし得る。
複数の異なるフィルタ候補が、基準フレーム、水平フェーズ及び/又は垂直フェーズに関連付けられる他の一実施形態が存在する。
更なる他の一実施形態において、フィルタ候補は、水平フェーズ及び/又は垂直フェーズに関するオフセットを有する。
その場合、フィルタは明るさの変化に従って決定され得る。
フィルタ候補が1次元である場合、決定されたフィルタは1次元フィルタとしてもよく、当該方法は更に、決定された1次元フィルタを別の1次元フィルタと組み合わせることによって、2次元フィルタを決定することを有していてもよい。
2次元フィルタの決定を、1次元フィルタの決定と、別の1次元フィルタとの組み合わせとに分離することは、高速な計算を可能にする。
特に、決定された1次元フィルタ及び別の1次元フィルタのうち、一方は垂直フィルタであり、他方は水平フィルタである。
決定される2次元フィルタは、別の1次元フィルタが、画素を補間するためのフィルタを決定する方法の実施形態のうちの1つの助けを借りて決定される場合に、画素を補間することに一層良好に適応される。
更なる他の一実施形態において、他の画素の補間の品質は、他の画素の補間と他の画素の完全再構成との間の平均自乗差又は平均絶対値差として決定され、フィルタを決定するステップは、他の画素の複数の異なる補間に対して決定された複数の品質の中で最適なものを決定することを有する。
平均自乗差は、品質を決定するための良い指標である。代わりに、自乗差の和又は絶対値差の和が用いられてもよい。
本発明はまた、空間的且つ/或いは信号対雑音比的にスケーラブルなビデオコーディング方式において、動きベクトルに関連付けられたエンハンスメントレイヤブロックの補間のためのフィルタを決定する方法に関する。当該方法は、同一位置の低次レイヤブロックが、同一のそれぞれ対応する精度の対応する動きベクトルに関連付けられているかを決定するステップであり、該対応する動きベクトルは、前記動きベクトルと共通する少なくとも1つの動きパラメータを有する、ステップと、そうである場合に、同一位置の低次レイヤブロックの補間に使用された低次レイヤフィルタとしてフィルタを決定するステップとを有する。少なくとも、前記対応する動きベクトルが前記動きベクトルと共通する如何なる動きパラメータも有しない場合には、エンハンスメントレイヤ内で使用されるフィルタは、補間のためのフィルタを決定する方法の実施形態のうちの1つを用いて決定される。
これは、スケーラブルビデオコーディング方式において、レイヤ毎及びブロック毎の最適化を必要とすることなく、本発明に係る方法を使用することを可能にする。
本発明は更に、フレームを符号化あるいは復号化する方法に関する。当該方法は、フレームの現ブロックの画素群に動きベクトルを関連付けるステップと、現ブロックの画素群の補間を、前記動きベクトルと、補間のためのフィルタを決定する方法の実施形態のうちの1つを用いて決定されたフィルタとを用いて決定するステップとを有する。
本発明に係る方法を符号化に用いることは、ブロックの一層良好な補間、ひいては、より良好に圧縮可能な残差を可能にする。本発明に係る方法を復号化に用いることは、復号化を、フィルタパラメータ及び/又はフィルタ種類の正確な伝送に依存しないものにする。
このフレームを符号化あるいは復号化する方法の一実施形態において、補間のためのフィルタを決定する方法の実施形態のうちの1つを実行する際に決定される前記他の画素は、前記フレームの1つ以上の他のブロックに含まれ、該他のブロックは、前記別の動きベクトルを用いて既に符号化あるいは復号化されている。
これは、適応型補間フィルタを用いて単一パスでフレームを符号化あるいは復号化することを可能にする。
フレームを符号化あるいは復号化する方法のこの実施形態において、前記他のブロックは、現ブロックに隣接する、あるいは現ブロックを囲むウィンドウ内に含まれ得る。
そのとき、フィルタは局所的なピクチャーコンテンツに対して適応される。
フレームを符号化あるいは復号化する方法の更なる一実施形態において、当該方法は更に、現ブロックの残差を決定するステップと、該残差を符号化する、あるいは該残差を用いて現ブロックを復号化するステップとを有する。
本発明は更に、フレームを符号化あるいは復号化する装置に関する。当該装置は、上述のフレームを符号化あるいは復号化する方法の実施形態のうちの1つに従ってフレームを符号化あるいは復号化する手段を有する。
本発明の典型的な実施形態を、図面に示し、以下の説明において更に詳細に説明する。
第1のブロックと、周囲ウィンドウと、第2及び第3のブロックとを有する現画像を例示する図である。 ウィンドウをより詳細に示すとともに、該ウィンドウ内の選択画素の組を示す図である。 水平フィルタ構成の更新方法を例示するフローチャートである。 垂直フィルタ構成の更新方法を例示するフローチャートである。 ピクチャーデータを送信あるいはブロードキャストするシステムを例示する図である。
本発明は、フレーム間符号化(インターコーディング)に使用される補間フィルタをオンザフライで適応化することを提案する。この適応化は、フィルタパラメータの数、フィルタパラメータの値、及び/又はフィルタ種類の適応化を含み得る。
オンザフライでの適応化は、ほぼ最適な補間フィルタを用いた一回での符号化(ワンパスエンコーディング)を可能にする。
インターコーディングに使用される補間フィルタは、基準ピクチャーに関連付けられ、あるいは基準画像を参照する。さらに、補間フィルタは、水平フェーズ及び/又は垂直フェーズに関連付けられ、あるいは水平フェーズ及び/又は垂直フェーズを参照する。
現フレームのブロックを符号化あるいは復号化する際、該ブロックが、該特定の水平フェーズ及び垂直フェーズに対応する低画素解像度の動きベクトルを有し、且つ特定の基準画像内での相対位置を参照する場合、その特定の基準画像とその特定の水平フェーズ及び垂直フェーズとに関連付けられた補間フィルタが使用される。
そのような補間フィルタを用いることで、動きベクトルの相対位置情報によって位置が決定され且つ補間フィルタの次元によって垂直及び/又は水平の拡がりが決定される基準ピクチャー内の参照領域から、補間された基準ブロックが生成される。すなわち、上記補間フィルタにより動きベクトルを用いて生成された動き補償された画素をフィルタリングすることによって、補間が決定される。
以下では、ブロックの動きベクトルを用いて該ブロックの位置の方向に位置をずらされた補間基準ブロック(補間された基準ブロック)のことを、動き補償ブロック(動き補償されたブロック)と称する。
図1は、例示の第1のブロックFB、ウィンドウWINによって囲まれた例示の第2のブロックSB、及び例示の第3のブロックTBを有する例示的な現画像ICURを示している。
所与の基準ピクチャーが最初に第1のブロックFBの第1の動きベクトルによって参照される場合、第1の動き補償ブロックを決定するためにデフォルトフィルタが使用される。
例示的な符号化方式において、第1のブロックFBと第1の動き補償ブロックとの間の第1の残差が決定される。この第1の残差は、例えば、離散コサイン変換、高速フーリエ変換又はウェーブレット変換によって変換される。変換された残差は、量子化され、第1の動きベクトルとともに符号化される。さらに、量子化された残差が、逆量子化され、逆変換され、且つ第1の動き補償ブロックと結合されて、第1の完全再構成ブロックが形成される。この例示的な符号化方式においては、この第1の完全再構成ブロックがフィルタの適応化に使用される。
例示的な復号化方式において、上記第1の残差が受信ストリームから復号化される。そして、上記符号化方式においてのように、第1の完全再構成ブロックが形成される。
第1の典型的な一実施形態において、第1のブロックFBの符号化又は復号化の後、デフォルトフィルタが更新される。すなわち、異なる複数の補間フィルタ候補を用いて、幾つかの異なる補間基準ブロックが生成される。これら異なる補間フィルタ候補は、フィルタ種類及び/又はフィルタパラメータにおいて異なるが、全てがデフォルトフィルタの水平フェーズ及び/又は垂直フェーズに対応する。
相異なる補間基準ブロックの各々が、第1の完全再構成ブロックと比較される。更新後のデフォルトフィルタは、第1の完全再構成ブロックの最も良い或いは最も近い近似を生じさせた補間フィルタとして決定される。近似度の評価の好適な一指標は、例えば、平均自乗差又は平均絶対値差として決定される偏差である。
デフォルトフィルタの更新がフィルタの有意な変化を生じさせる場合、第1のブロックFBは、更新後のフィルタを用いて、二度目の符号化を行われてもよい。第1のブロックFBの二回の符号化(ツーパスエンコーディング)は、単純なデフォルトフィルタを可能にするという利点を伴う。不利な点としては、二度目のコーディングパスが必要とされることである。
そして、更新されたデフォルトフィルタと同一の基準フレーム及び同一の水平及び/又は垂直フェーズを参照する第2のブロックSBが、更新されたデフォルトフィルタを用いて符号化される。第2のブロックSBを符号化あるいは復号化した後、更新されたフィルタの更なる更新が、今回は第2のブロックSBの第2の完全再構成ブロックに基づいて決定される。
第2の典型的な一実施形態において、デフォルトフィルタは、第2のブロックSBが符号化されるべき、あるいは復号化されるべきとき直ちに更新される。
この第2の典型的な実施形態において、補間された基準画素の組が、フィルタ種類及び/又はそのフィルタパラメータにおいて異なるが全てがデフォルトフィルタの水平及び/又は垂直フェーズに対応するような異なる複数の補間フィルタ候補を用いて生成される。
補間された基準画素の組を形成することについて、以下にて図2の助けを借りて説明する。
第2のブロックSBを囲む、あるいはそれに隣接するウィンドウWIN内で、完全再構成画素の組PSが決定される。完全再構成画素の組PSは、同一の水平及び/又は垂直フェーズを有する動きベクトルを用いて既に符号化あるいは復号化された画素を完全に再構成したものを有し、且つ第2のブロックSBの動きベクトルと同一の基準ピクチャーを参照するものである。この組PSは更に、同一の基準ピクチャー内の同一の相対位置を更に参照する動きベクトルを用いて既に符号化あるいは復号化された画素に制限されることができる。
ウィンドウWINは、既に符号化あるいは復号化された全ての画素を有含んでいてもよいし、又は既に符号化あるいは復号化された画素の一部のみを含んでいてもよい。
決定された完全再構成画素の組PSに対し、相異なる補間フィルタ候補を用いて、幾つかの異なる補間基準画素の組が生成される。相異なる補間フィルタ候補は、上述の第1の典型的な実施形態においてのように、フィルタ種類及び/又はフィルタパラメータにおいて異なるが、全てがデフォルトフィルタの水平フェーズ及び/又は垂直フェーズに対応する。
異なる補間基準画素の組の各々が、完全再構成画素の組PSと比較される。更新後のデフォルトフィルタは、フィルタ候補の組に関して最適化された最適品質を生じさせる補間フィルタとして決定される。達成される品質すなわち近似度の指標は、例えば、完全再構成画素の組PSと比較したときの偏差に基づき得る。この近似度は、例えば、平均自乗差又は平均絶対値差として決定され得る。
決定された完全再構成画素の組PSは、既に符号化あるいは復号化された画素の何れもが、第2のブロックSBの動きベクトルと同一の水平フェーズ及び垂直フェーズを用い且つ同一の基準ピクチャーを参照して符号化あるいは復号化されたものではないという事実のためにエンプティであってもよい。あるいは、1つの画素も未だに符号化あるいは復号化されていないこともあり得る。
その場合、フィルタは変更されないままである。
更新後のデフォルトフィルタと同一の基準フレーム並びに同一の水平フェーズ及び/又は垂直フェーズを参照する動きベクトルを有する第3のブロックTBが符号化されるべき、あるいは復号化されるべきとき直ちに、上記の更新後のフィルタが再び更新される。
このように、フィルタは、適応されたフィルタが適用されるべきブロックの近傍に位置するピクチャーコンテンツの補間要求に従って繰り返し適応される。
エンコーダ側とデコーダ側とで、基準ピクチャーを用いて処理される現ピクチャーの少なくとも一部の再構成信号を双方が用いて、同一のフィルタ適応化が実行される。異なる組の適応型補間フィルタを各基準ピクチャーに関連付けることができる。結果として、これらのフィルタは符号化される必要がなく、それにより帯域幅が節減される。加えて、補間フィルタを、局所的なピクチャーコンテンツに、より良好に適応させることができる。
フィルタ更新
最適化された補間フィルタは、概して、考慮されるサポート(選択された典型的な実施形態に応じて、単に1つの符号化されたブロック、又は完全再構成画素の組PS)上で完全再構成ピクチャーと動き補償されたピクチャーとの間の差を見積もる偏差指標を最小化するフィルタとして選定される。
例えば中央値補間、線形補間若しくは双線形(バイリニア)補間、双三次(バイキュービック)補間、又は勾配に基づく補間など、複数の異なる補間方法のうちの1つ以上が用いられ得る。
パラメータ化可能な補間方法候補の各種類に関し、その補間方法候補種類の複数の可能なパラメータ化の中で偏差を最小にする最適なパラメータ化が決定される。パラメータ化可能でない補間方法候補の各々に関しても、偏差指標が決定される。
決定された偏差の間で最小値が決定される。そして、決定された偏差の間での最小値に対応する補間方法候補(該当する場合にはパラメータ化を有する)が選択される。
他の典型的な一実施形態において、フィルタ更新は、限られた一組の補間方法候補の中で選択することにある。例えば、補間方法候補は複数の線形補間フィルタに限定されてもよく、更新は、最適化された係数、すなわち、偏差指標を最小化する係数の決定に限定されてもよい。
線形補間フィルタ
基準ピクチャーIREFを参照する線形補間フィルタの組は、一組のM×Mポリフェーズ線形フィルタHIREF,px,pyからなる。ただし、px=0,・・・,M−1であり且つpy=0,・・・,M−1である。M×Mポリフェーズ線形フィルタHIREF,px,pyの各々は、線形フィルタリング係数を含む2D行列PxQである。
IREF,px,pyが分離可能である場合、それを
Figure 2011524708
と記述することができる。ただし、FIREF,px及びGIREF,pyは、それぞれ、P個及びQ個の調整可能なパラメータを有する1D行列である。
このとき、フィルタ更新処理を、FIREF,pxを更新することと、GIREF,pyを更新することとに分離することが可能である。
IREF,pxを更新する処理は、図3に示す3つのステップ:
1.隣接するフィッティング画素の特定IDHPL;
2.垂直信号補間VINPL;
3.フィルタ決定HUPDT
で行われる。
これらの3ステップについて更に詳細に説明する。
1.ステップIDHPL
水平フェーズpxを有する符号化されるべき、あるいは復号化されるべきブロックに隣接する、あるいは該ブロックを囲むウィンドウWIN内で、基準ピクチャーIREFを用いてインターコーディングされ且つ水平フェーズpxを有する動きベクトルを持つブロックに属する画素の組PSが決定される。基準ピクチャーIREF内には、画素の組PSに対応する基準画素の組が存在する。完全な再構成が未だ行われていない場合、この基準画素の組を用いて、画素の組PSの画素群がブランクピクチャー内で完全に再構成され、いわゆる完全再構成ピクチャーIRECが得られる。完全再構成ピクチャーは、全画素が再構成されたピクチャーを必ずしも意味するのではなく、再構成された画素が完全に再構成されたものであるピクチャーを意味する。
2.ステップVINPL
基準画素の組が、補間されるべき画素の垂直フェーズに対応する垂直フィルタGIREF,pzを用いて垂直方向に補間される。そして、垂直補間された画素群が、ブランクピクチャー又はエンプティピクチャー内で、各画素を対応する完全再構成画素の位置にして配置される。それにより、いわゆる垂直動き補償ピクチャーIVERTが得られる。
3.ステップHUPDT
垂直動き補償ピクチャーIVERTが更に:
Figure 2011524708
を用いて水平方向に補間される。ただし、Dxは、画素(x、y)における水平動きベクトル成分の整数部であり、[ ]はその引数の整数部を戻す。
含められたオフセットOIREF,pxは明るさの変化を考慮に入れるものである。これはゼロであってもよく、その場合:
Figure 2011524708
を得る。
平均自乗分解は、エネルギー関数:
Figure 2011524708
を最小にするFIREF,pxを計算することにあり、それにより、P個の未知数を有するP個の方程式からなる線形連立方程式の旧知の分解がもたらされる。これらの方程式のうちの1つ以上は正規化制約を反映し得る。
対応して、GIREF,pyを更新する処理は、図4に示すようにして行われる。
1.ステップIDHPL
垂直フェーズpyを有する符号化されるべき、あるいは復号化されるべきブロックに隣接する、あるいは該ブロックを囲むウィンドウWIN内で、基準ピクチャーIREFを用いてインターコーディングされ且つ垂直フェーズpyを有する動きベクトルを持つブロックに属する別の画素の組が決定される。基準ピクチャーIREF内には、この別の画素の組に対応する別の基準画素の組が存在する。この別の基準画素の組を用いて、上記別の画素の組の画素群がブランクピクチャー内で完全に再構成され、いわゆる別の完全再構成ピクチャーが得られる。この別の完全再構成ピクチャーも、全体が再構成されたピクチャーを必ずしも意味するのではなく、再構成された画素が完全に再構成されたものであるピクチャーを意味する。
2.ステップHINPL
上記別の基準画素の組が、補間されるべき画素の水平フェーズに対応する水平フィルタFIREF,pz(場合により、更新されている)を用いて水平方向に補間される。そして、水平補間された画素群が、ブランクピクチャー又はエンプティピクチャー内で、各画素を対応する完全再構成画素の位置にして配置される。それにより、いわゆる水平動き補償ピクチャーIHORZが得られる。
3.ステップVUPDT
水平動き補償ピクチャーIHORZが更に:
Figure 2011524708
を用いて垂直方向に補間される。ただし、Dyは、画素(x、y)における垂直動きベクトル成分の整数部であり、含められたオフセットOIREF,pyはゼロであってもよい。
平均自乗分解は、エネルギー関数:
Figure 2011524708
を最小にするGIREF,pyを計算することにあり、それにより、Q個の未知数を有するQ個の方程式からなる線形連立方程式の旧知の分解がもたらされる。これらの方程式のうちの1つ以上は正規化制約を反映し得る。
水平方向の更新は、垂直フェーズpy=0を有する動きベクトルによって符号化あるいは復号化されるブロックに制限されてもよい。そして、垂直方向の更新は、水平フェーズpx=0を有する動きベクトルによって符号化あるいは復号化されるブロックに制限されてもよい。
信号対雑音比(SNR)的及び空間的なスケーラブルビデオ符号化(Scalable Video Coding;SVC)は、空間−時間及び品質のスケーラビリティをもたらす階層化されたビデオ符号化方式である。SVC方式において、高次のレイヤ又はエンハンスメントレイヤの現ブロックの動き補償は、低次のレイヤ又はベースレイヤ内の同一位置のブロックから得られる、あるいはそれに対して決定されたサブピクセルフィルタを使用し得る。
SNRスケーラビリティの場合には、同一位置の低次レイヤブロックが、現ブロックと同じサブペル(サブピクセル)ベクトルを含む場合、低次レイヤブロックに対して定められたサブペルフィルタをエンハンスメントレイヤブロックに使用することができる。
空間スケーラビリティの場合には、現サブペルベクトルが同一位置ブロックに含まれるもののうちの1つに一致する場合、例えば:
1/4ペルフィルタ −> 1/2サブペルフィルタ、
1/8ペルフィルタ −> 1/4ペルフィルタ、・・・
のように、2サブペル分解能(2進法(dyadic)空間svcでのみ)にそれぞれ同一のサブペルフィルタを使用することができる。
図5に示す典型的な一実施形態において、オンザフライでの補間フィルタの適応化は、ブロードキャスト端又は送信端BEのエンコーダENC内に含まれるフィルタ適応化装置FADと、受信端REのデコーダDEC内に含まれる同一の種類及びパラメータ設定の対応するフィルタ適応化装置FADとにおいて同じように行われる。そのとき、ケーブル接続又は無線接続とし得る接続CONを介したフィルタリングパラメータのブロードキャスト又は送信は、もはや使われないものとなる。
本発明は以下の利点を有する。
補間フィルタのインライン決定又は更新により、それらのフィルタのローカルでの適応化が達成される。
フィルタ係数の伝送を回避することにより、対応するサイド情報ビットのための帯域幅が節減され、潜在的に符号化効率の増大がもたらされ得る。
また、ツーパスエンコーディング処理を回避することにより、エンコーダの複雑さの低減が達成される。
本発明は、映像圧縮に関する如何なる仕組みにも適用可能である。本発明は、例えば移動体用HDといった高解像度映像を用いる低ビットレート用途や、HD及びそれより高いもののような超解像度映像用途に特に適しているが、それらに限定されるものではない。

Claims (15)

  1. フレームの1つ以上の画素を補間するためのフィルタを決定する方法であって、
    前記フレームの残りの部分内の他の画素を決定するステップであり、該他の画素に関する動きベクトルが、前記画素に関する別の動きベクトルと同一の基準フレームと同一の水平フェーズ及び/又は垂直フェーズとを参照する、他の画素を決定するステップと、
    前記他の画素に基づいて前記フィルタを決定するステップと
    を有し、
    決定されたフィルタを用いて決定される前記他の画素の補間の品質が、フィルタ候補の組に含まれる複数の異なるフィルタ候補のうちの1つを用いて決定可能な前記他の画素の如何なるその他の補間の品質にも達する、あるいは上回るように、前記フィルタが決定される、
    方法。
  2. 前記複数の異なるフィルタ候補は、フィルタ種類、フィルタリングパラメータの数、及び/又はフィルタリングパラメータに割り当てられた値において異なる、請求項1に記載の方法。
  3. 前記フィルタ種類は、中央値補間、線形補間、双線形補間、双三次補間、及び勾配に基づく補間のうちの1つである、請求項2に記載の方法。
  4. 前記複数の異なるフィルタ候補は、前記基準フレーム、前記水平フェーズ及び/又は前記垂直フェーズに関連付けられる、請求項1乃至3のうちの一項に記載の方法。
  5. 前記フィルタ候補は、前記水平フェーズ及び/又は前記垂直フェーズに関するオフセットを有する、請求項4に記載の方法。
  6. 前記フィルタ候補は1次元であり、
    前記決定されたフィルタは1次元フィルタであり、
    当該方法は更に、前記決定された1次元フィルタを別の1次元フィルタと組み合わせることによって、2次元フィルタを決定することを有する、
    請求項4又は5に記載の方法。
  7. 前記決定された1次元フィルタ及び前記別の1次元フィルタのうち、一方は垂直フィルタであり、他方は水平フィルタである、請求項6に記載の方法。
  8. 前記別の1次元フィルタは、請求項6又は7に記載の方法を用いて決定される、請求項6又は7に記載の方法。
  9. 前記他の画素の前記補間の品質は、前記他の画素の前記補間と前記他の画素の完全再構成との間の平均自乗差又は平均絶対値差として決定され、
    前記フィルタを決定するステップは、前記他の画素の複数の異なる補間に対して決定された複数の品質の中で最適なものを決定することを有する、
    請求項1乃至8のうちの一項に記載の方法。
  10. 空間的且つ/或いは信号対雑音比的にスケーラブルなビデオコーディング方式において、動きベクトルに関連付けられたエンハンスメントレイヤブロックの補間のためのフィルタを決定する方法であって、
    同一位置の低次レイヤブロックが、同一のそれぞれ対応する精度の対応する動きベクトルに関連付けられているかを決定するステップであり、該対応する動きベクトルは、前記動きベクトルと共通する少なくとも1つの動きパラメータを有する、ステップと、
    そうである場合に、前記同一位置の低次レイヤブロックの補間に使用された低次レイヤフィルタとして前記フィルタを決定するステップと、
    そうでない場合に、前記エンハンスメントレイヤ内で請求項1乃至9のうちの一項に記載の方法を用いて前記フィルタを決定するステップと
    を有する方法。
  11. フレームを符号化あるいは復号化する方法であって、
    前記フレームの現ブロックの画素群に動きベクトルを関連付けるステップと、
    前記現ブロックの前記画素群の補間を、前記別の動きベクトルと請求項1乃至10のうちの一項に記載の方法に従って決定されたフィルタとを用いて決定するステップと
    を有する方法。
  12. 請求項1乃至10のうちの一項に記載の方法に従った前記フィルタの決定のために決定される前記他の画素は、前記フレームの1つ以上の他のブロックに含まれ、前記他のブロックは、前記動きベクトルを用いて既に符号化あるいは復号化されている、請求項11に記載の方法。
  13. 前記他のブロックは、前記現ブロックに隣接するウィンドウ内に含まれる、請求項12に記載の方法。
  14. 前記現ブロックの残差を決定するステップと、
    前記残差を符号化する、あるいは前記残差を用いて前記現ブロックを復号化するステップと
    を更に有する請求項11乃至13のうちの一項に記載の方法。
  15. フレームを符号化あるいは復号化する装置であって、
    請求項11乃至14のうちの一項に記載の方法を実行することによって前記フレームを符号化あるいは復号化する手段
    を有する装置。
JP2011513966A 2008-06-19 2009-05-11 フレームの1つ以上の画素を補間するためのフィルタを決定する方法 Active JP5211240B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP08305283.7 2008-06-19
EP08305283A EP2136565A1 (en) 2008-06-19 2008-06-19 Method for determining a filter for interpolating one or more pixels of a frame, method for encoding or reconstructing a frame and method for transmitting a frame
PCT/EP2009/055662 WO2009153104A1 (en) 2008-06-19 2009-05-11 Method for determining a filter for interpolating one or more pixels of a frame

Publications (2)

Publication Number Publication Date
JP2011524708A true JP2011524708A (ja) 2011-09-01
JP5211240B2 JP5211240B2 (ja) 2013-06-12

Family

ID=40174740

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011513966A Active JP5211240B2 (ja) 2008-06-19 2009-05-11 フレームの1つ以上の画素を補間するためのフィルタを決定する方法

Country Status (7)

Country Link
US (1) US8804833B2 (ja)
EP (2) EP2136565A1 (ja)
JP (1) JP5211240B2 (ja)
KR (1) KR101563330B1 (ja)
CN (1) CN102067604B (ja)
TW (1) TWI513279B (ja)
WO (1) WO2009153104A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014165786A (ja) * 2013-02-27 2014-09-08 Mitsubishi Electric Corp 画像符号化装置および画像復号装置

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10123050B2 (en) 2008-07-11 2018-11-06 Qualcomm Incorporated Filtering video data using a plurality of filters
EP2398240A1 (en) * 2010-06-16 2011-12-21 Canon Kabushiki Kaisha A method and device for encoding and decoding a video signal
US9172972B2 (en) * 2011-01-05 2015-10-27 Qualcomm Incorporated Low complexity interpolation filtering with adaptive tap size
JP5950541B2 (ja) * 2011-11-07 2016-07-13 キヤノン株式会社 動きベクトル符号化装置、動きベクトル符号化方法及びプログラム、動きベクトル復号装置、動きベクトル復号方法及びプログラム
CN102750678A (zh) * 2012-06-18 2012-10-24 西北工业大学 基于自然图像统计稀疏模型的单帧图像超分辨重建方法
WO2015009068A1 (ko) * 2013-07-16 2015-01-22 삼성전자 주식회사 비트 뎁스 및 컬러 포맷의 변환을 동반하는 업샘플링 필터를 이용하는 스케일러블 비디오 부호화 방법 및 장치, 스케일러블 비디오 복호화 방법 및 장치
CN115002457A (zh) * 2015-06-05 2022-09-02 杜比实验室特许公司 图像编码和解码方法和图像解码设备
US10855951B2 (en) * 2018-07-13 2020-12-01 Analog Devices Global Unlimited Company Methods and devices for compensating sag effect
CN111010568B (zh) * 2018-10-06 2023-09-29 华为技术有限公司 插值滤波器的训练方法、装置及视频图像编解码方法、编解码器
CN117459718A (zh) 2019-04-01 2024-01-26 北京字节跳动网络技术有限公司 视频编码中的可选插值滤波器
BR112022002480A2 (pt) 2019-08-20 2022-04-26 Beijing Bytedance Network Tech Co Ltd Método para processamento de vídeo, aparelho em um sistema de vídeo, e, produto de programa de computador armazenado em uma mídia legível por computador não transitória

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03184487A (ja) * 1989-12-14 1991-08-12 Oki Electric Ind Co Ltd 予測符号化方法及び装置
JPH10191353A (ja) * 1996-12-24 1998-07-21 Sony Corp 画像符号化装置および画像符号化方法、画像復号化装置および画像復号化方法、並びに記録媒体
JP2006279383A (ja) * 2005-03-29 2006-10-12 Nippon Telegr & Teleph Corp <Ntt> 階層間予測符号化方法,装置,階層間予測復号方法,装置,階層間予測符号化プログラム,階層間予測復号プログラムおよびそれらのプログラム記録媒体
WO2008010929A2 (en) * 2006-07-18 2008-01-24 Thomson Licensing Methods and apparatus for adaptive reference filtering
WO2008048864A2 (en) * 2006-10-13 2008-04-24 Qualcomm Incorporated Video coding with adaptive filtering for motion compensated prediction

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3184487B2 (ja) 1990-07-26 2001-07-09 日本分光株式会社 全反射測定装置
FI114679B (fi) * 2002-04-29 2004-11-30 Nokia Corp Satunnaisaloituspisteet videokoodauksessa
US20040076333A1 (en) * 2002-10-22 2004-04-22 Huipin Zhang Adaptive interpolation filter system for motion compensated predictive video coding
TWI290438B (en) * 2004-12-01 2007-11-21 Samsung Electronics Co Ltd A pipelined deblocking filter
TWI288896B (en) * 2005-04-12 2007-10-21 Realtek Semiconductor Corp Method and apparatus of deinterlacing
WO2008068623A2 (en) * 2006-12-01 2008-06-12 France Telecom Adaptive interpolation method and system for motion compensated predictive video coding and decoding
KR100835662B1 (ko) 2006-12-04 2008-06-09 부산대학교 산학협력단 필터 예측 기능을 가지는 움직임 보상 예측 장치 및 이를이용한 동영상 압축 장치 및 방법
US8199812B2 (en) * 2007-01-09 2012-06-12 Qualcomm Incorporated Adaptive upsampling for scalable video coding
KR101369746B1 (ko) * 2007-01-22 2014-03-07 삼성전자주식회사 적응적 보간 필터를 이용한 영상 부호화, 복호화 방법 및장치
US8705622B2 (en) * 2008-04-10 2014-04-22 Qualcomm Incorporated Interpolation filter support for sub-pixel resolution in video coding
US8804831B2 (en) * 2008-04-10 2014-08-12 Qualcomm Incorporated Offsets at sub-pixel resolution
US20110188571A1 (en) * 2010-02-04 2011-08-04 Sony Corporation Recursive adaptive interpolation filters (raif)

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03184487A (ja) * 1989-12-14 1991-08-12 Oki Electric Ind Co Ltd 予測符号化方法及び装置
JPH10191353A (ja) * 1996-12-24 1998-07-21 Sony Corp 画像符号化装置および画像符号化方法、画像復号化装置および画像復号化方法、並びに記録媒体
JP2006279383A (ja) * 2005-03-29 2006-10-12 Nippon Telegr & Teleph Corp <Ntt> 階層間予測符号化方法,装置,階層間予測復号方法,装置,階層間予測符号化プログラム,階層間予測復号プログラムおよびそれらのプログラム記録媒体
WO2008010929A2 (en) * 2006-07-18 2008-01-24 Thomson Licensing Methods and apparatus for adaptive reference filtering
JP2009544222A (ja) * 2006-07-18 2009-12-10 トムソン ライセンシング 適応的参照フィルタリングの方法及び装置
WO2008048864A2 (en) * 2006-10-13 2008-04-24 Qualcomm Incorporated Video coding with adaptive filtering for motion compensated prediction
JP2010507286A (ja) * 2006-10-13 2010-03-04 クゥアルコム・インコーポレイテッド 動き補償予測のための適応フィルタリングを備えたビデオ符号化

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014165786A (ja) * 2013-02-27 2014-09-08 Mitsubishi Electric Corp 画像符号化装置および画像復号装置

Also Published As

Publication number Publication date
TW201002077A (en) 2010-01-01
WO2009153104A1 (en) 2009-12-23
CN102067604A (zh) 2011-05-18
US8804833B2 (en) 2014-08-12
JP5211240B2 (ja) 2013-06-12
EP2136565A1 (en) 2009-12-23
US20110080953A1 (en) 2011-04-07
EP2297962A1 (en) 2011-03-23
KR20110031952A (ko) 2011-03-29
TWI513279B (zh) 2015-12-11
KR101563330B1 (ko) 2015-10-26
EP2297962B1 (en) 2019-12-04
CN102067604B (zh) 2013-10-09

Similar Documents

Publication Publication Date Title
JP5211240B2 (ja) フレームの1つ以上の画素を補間するためのフィルタを決定する方法
JP2008536414A (ja) ビデオの拡張された符号化方法及び装置
US8374238B2 (en) Spatial scalability in 3D sub-band decoding of SDMCTF-encoded video
JP4989048B2 (ja) 3dサブバンド符号化のための組み込み基本レイヤコーデック
EP1617676B1 (en) Adaptive updates in motion-compensated temporal filtering
JP5044057B2 (ja) フィルタを選択する方法及び装置
US10349063B2 (en) Method and apparatus for coding video supporting plurality of layers
EP1746839A1 (en) Method and apparatus for encoding video data
EP2157799A1 (en) Interpolation filter with local adaptation based on block edges in the reference frame
US20070160134A1 (en) Methods and Systems for Filter Characterization
EP1894418A2 (en) Method and apparatus for video encoding and decoding using adaptive interpolation
US9544587B2 (en) Scalable video coding with enhanced base layer
US20230058283A1 (en) Video encoding and decoding based on resampling chroma signals
US20140286434A1 (en) Image-encoding method and image-decoding method
EP4109901A1 (en) Image encoding and decoding based on resampling of chroma signal
KR101652072B1 (ko) 멀티 레이어 비디오의 움직임 정보 탐색 방법 및 장치
WO2013051897A1 (ko) 영상 부호화 방법과 영상 복호화 방법
KR20130098121A (ko) 적응적 보간 필터를 이용하는 영상 부호화/복호화 장치 및 영상을 부호화/복호화하는 방법
JP2010288182A (ja) 動画像復号化方法、動画像復号化装置及び動画像復号化プログラム
KR20090041141A (ko) 주변 블록의 정보를 이용한 효율적인 영상 확대 방법 및이를 적용한 스케일러블 비디오 부호화/복호화 장치 및방법
KR20140145559A (ko) 스케일러블 비디오 신호 인코딩/디코딩 방법 및 장치
JP2010288181A (ja) 動画像符号化方法、動画像符号化装置及び動画像符号化プログラム
KR20150071653A (ko) 멀티 레이어 비디오 신호 인코딩/디코딩 방법 및 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130225

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160301

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5211240

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250