JP2013543318A - 低複雑度の動きベクトルを導出するシステム及び方法 - Google Patents

低複雑度の動きベクトルを導出するシステム及び方法 Download PDF

Info

Publication number
JP2013543318A
JP2013543318A JP2013532027A JP2013532027A JP2013543318A JP 2013543318 A JP2013543318 A JP 2013543318A JP 2013532027 A JP2013532027 A JP 2013532027A JP 2013532027 A JP2013532027 A JP 2013532027A JP 2013543318 A JP2013543318 A JP 2013543318A
Authority
JP
Japan
Prior art keywords
motion vector
candidate
rounded
integer
sad
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013532027A
Other languages
English (en)
Other versions
JP5579937B2 (ja
Inventor
チウ,イー−ジェン
シュイ,リードーン
ジャーン,ウエンハオ
Original Assignee
インテル コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インテル コーポレイション filed Critical インテル コーポレイション
Publication of JP2013543318A publication Critical patent/JP2013543318A/ja
Application granted granted Critical
Publication of JP5579937B2 publication Critical patent/JP5579937B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/533Motion estimation using multistep search, e.g. 2D-log search or one-at-a-time search [OTS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本発明は、候補に基づくデコーダ側での動きベクトルの決定(DMVD)を実行するシステム及び方法に関する。候補となる動きベクトルは、最も近い整数の画素に丸められる。最良の絶対差分の合計(SAD)を有する丸められた候補となるMVが特定される。これは、最終的なMVとして使用される。代替的に、この丸められた候補となるMVに対応する丸められていないMVは、最終的なMVとして使用される。代替的に、選択された丸められたMVの周りで小範囲の整数サーチが行われ、サーチ領域における最良の整数画素が特定され、最終的なMVを定義するために使用される。代替的に、中間のMVが選択され、この場合、このMVは、選択された丸められた候補となるMVとサーチ領域における最良の整数画素に対応するMVとの中間にある。

Description

本発明は、低複雑度の動きベクトルを導出するシステム及び方法に関する。
本出願は、2010年10月6日に出願された米国特許仮出願第61/390,461号の利益を特許請求するものであり、その内容は、引用によりその完全な形で本明細書に盛り込まれる。
また、本出願は、以下の特許文献に関連する。
2010年1月14日に出願された米国特許出願第12/657,168号,
2009年9月25日に出願された米国特許出願第12/567,540号,
2009年9月25日に出願された米国特許出願第12/566,823号,
2009年10月20日に出願された米国特許出願第12/582,061号,及び
2010年7月15日に出願された米国特許出願第61/364,565号。
従来の映像符号化システムでは、動き予測(ME)がエンコーダで行われ、現在の符号化ブロックについて動きの予測のための動きベクトルが取得される。次いで、動きベクトルは、バイナリストリームに符号化され、デコーダに送信される。これにより、デコーダは、現在の復号化ブロックについて動き補償を実行することができる。例えばH.264/AVCといった幾つかの高度な映像符号化規格では、マクロブロック(MB)は符号化のために小さなブロックに分割され、それぞれ小分割されたブロックに動きベクトルが割り当てられる。結果として、MBが4×4ブロックに分割される場合、予測符号化MBについて最大で16個の動きベクトルが存在し、双方向予測符号化MBについて最大で32個の動きベクトルが存在することになり、これは、著しいオーバヘッドになる場合がある。動き符号化ブロックが非常に強い時間的及び空間的相関を執することを考慮して、動き予測は、再構成された参照ピクチャ又は再構成された空間的に隣接するブロックに基づいてデコーダ側で実行される。これは、エンコーダから動きベクトルを受信する代わりに、現在のブロックについて動きベクトル自身をデコーダに導出させる。このデコーダ側の動きベクトルの導出(DMVD: Decoder-side Motion Vector Derivation)方法は、デコーダの計算上の複雑度を増加させるが、帯域幅を節約することで、既存のビデオコーデックシステムの効率を改善することができる。
CN1450809A US20030063671A1 EP1981281A2
デコーダ側での動き予測は、サーチウィンドウにおける可能性のある動きベクトルの候補の間でサーチを行うことを必要とする場合がある。このサーチは、包括的なサーチであるか、又は高速サーチアルゴリズムに依存する場合がある。高速サーチアルゴリズムは使用される場合でさえ、最良の候補が発見される前に、かなりの数の候補が評価される必要がある。これは、デコーダ側での処理において非効率さを表す。シミュレーション結果は、候補に基づくDMDVが使用される場合でさえ、DMDVの複雑度はデコーダ側でなお非常に高いことを示す。
実施の形態に係るビデオエンコーダシステムのブロック図である。 実施の形態に係るビデオデコーダシステムのブロック図である。 実施の形態に係るデコーダでのミラー動き予測(ME)を例示する図である。 実施の形態に係るデコーダでの投影MEを例示する図である。 実施の形態に係るデコーダでの空間的に隣接するブロックMEを例示するブロック図である。 実施の形態に係るデコーダで時間的に同一場所に位置するブロックMEを例示する図である。 実施の形態に係る動きベクトル予測の空間的に隣接するブロックを例示する図である。 実施の形態に係る画素補間の使用を例示するフローチャートである。 実施の形態に係る動きベクトルの導出を例示するフローチャートである。 更なる実施の形態に係る動きベクトルの導出を例示するフローチャートである。 更なる実施の形態に係る動きベクトルの導出を例示するフローチャートである。 更なる実施の形態に係る動きベクトルの導出を例示するフローチャートである。 ソフトウェア又はファームウェアのコンピューティング環境を例示するブロック図である。
以下、添付図面を参照して本発明の実施の形態が記載される。特定のコンフィギュレーション及びアレンジメントが説明されるが、これは例示を目的として行われていることを理解されたい。当業者であれば、本発明の精神及び範囲から逸脱することなしに、他のコンフィギュレーション及びアレンジメントを使用することができることを認識されるであろう。また、これは、本明細書で記載される以外のさまざまな他のシステム及びアプリケーションで採用することができることは、当業者にとって明らかであろう。
本明細書で開示されるものは、映像圧縮/伸張システムにおいて、デコーダでの処理を向上する方法及びシステムである。
本明細書で開示される向上された処理は、映像圧縮及び伸張をそれぞれ実現するビデオエンコーダ/デコーダシステムの環境で行われる場合がある。図1は、自己MV導出モジュール140を含む例示的なH.264ビデオエンコーダアーキテクチャ100を例示する。H,264は、ビデオコーデックアーキテクチャである。現在のビデオ情報は、複数のフレームの形式で現在のビデオブロック110から供給される。現在のビデオは、差分ユニット111に通過される。差分ユニット111は、差分パルスコード変調(DPCM: Differential Pulse Code Modulation)(コアビデオエンコーディングとも呼ぶ)ループの一部であり、このループは、動き補償ステージ122及び動き予測ステージ118を含む。また、このループは、イントラ予測ステージ120及びイントラ補間ステージ124を含む幾つかのケースでは、このループにおいて、インループ・デブロッキングフィルタ126が使用される場合がある。
現在のビデオは、差分ユニット111及び動き予測ステージ118に供給される。動き補償ステージ122又はイントラ補間ステージ124は、残差を生成するために現在のビデオ110から減算される出力を(スイッチ123を介して)生成する。次いで、残差は、変換/量子化ステージ112で変換及び量子化され、ブロック114におけるエントロピー符号化に向けられる。ブロック116で、チャネル出力が得られる。
動き補償ステージ122又はイントラ補間ステージ124の出力は、加算器133に供給され、この加算器は、逆量子化ユニット130及び逆変換ユニット132からの入力を受ける。後者の2つのユニットは、変換/量子化ステージ112の変換及び量子化を元に戻す。逆変換ユニット132は、逆量子化及び逆変換された情報をループに供給する。
自己MV導出モジュール140は、前に復号化された画素から動きベクトルの導出の処理を実現する。自己MV導出モジュール140は、インループ・デブロッキングフィルタ126の出力を受け、出力を動き補償ステージ122に供給する。
図2は、自己MV導出モジュール210をもつH.264ビデオデコーダ200を例示する。ここで、図1のエンコーダ100に関連するデコーダ200は、エントロピー復号化ユニット240に結合されるチャネル入力238を含む。復号化ユニット240からの出力は、逆量子化ユニット242及び逆変換ユニット244に供給され、自己MV導出モジュール210に供給される。自己MV導出モジュール210は、動き補償ユニット248に結合される。また、エントロピー復号化ユニット240の出力は、イントラ補間ユニット252に供給され、このイントラ補間ユニットは、セレクタスイッチ223に供給する。
逆変換ユニット244からの情報、及び、スイッチ223により選択されたときに動き補償ユニット248又はイントラ補間ユニット254の何れかからの情報は、加算され、インループ・デブロッキングユニット246に供給され、イントラ補間ユニット254に供給される。
エンコーダでの自己MV導出モジュールは、ビデオデコーダ側と同期する。自己MV導出モジュールは、一般的なビデオコーデックアーキテクチャに代替的に適用され、H.264コーディングアーキテクチャに限定されない。
上述されたエンコーダ及びデコーダ、並びに上述されたエンコーダ及びデコーダにより実効される処理は、ハードウェア、ファームウェア、又はソフトウェア、或いはこれらの組み合わせで実現される場合がある。さらに、本明細書で開示される1以上の機能は、ディスクリート回路及び集積回路ロジック、特定用途向け集積回路(ASIC)ロジック、及びマイクロコントローラを含めて、ハードウェア、ソフトウェア、ファームウェア、及びこれらの組み合わせで実現され、ドメインに固有の集積回路パッケージの一部として、又は集積回路パッケージの組み合わせとして実現される場合がある。本明細書で使用されるとき、用語「ソフトウェア」は、コンピュータシステムに、本明細書で開示された1以上の機能及び/又は機能の組み合わせを実行させるため、コンピュータ読み取り可能な記録媒体に記憶されるコンピュータプログラムロジックを含むコンピュータ読み取り可能な記録媒体を含むコンピュータプログラムプロダクトを示す。
デコーダ側の動き予測(ME)は、現在の符号化ブロックの動きがその空間的な隣接するブロックの動き、及び参照ピクチャにおけるその時間的に隣接するブロックの動きと強い相関を有するという想定に基づく場合がある。図3〜図6は、異なる種類の相関を採用した異なるデコーダ側のME方法を示す。
図3におけるミラーME及び図4における投影MEは、時間的な動きの相関を採用することで、2つの参照フレーム間で実行される。図3の実施の形態では、前方参照フレーム320と後方参照フレーム330との間で、2つの双予測(bi-predictive)フレーム(Bフレーム)310及び315が存在する。フレーム310は、現在の符号化フレームである。現在のブロック340を符号化するとき、ミラーMEが実行され、参照フレーム320及び330のそれぞれにおけるサーチウィンドウ360及び370においてサーチを実行することで、動きベクトルが取得される。上述されたように、現在の入力ブロックがデコーダで利用可能でない場合、ミラーMEが2つの参照フレームにより実行される。
図4は、(参照フレーム420として示される)前方向(FW)Ref0及び(参照フレーム430として示される)FW Ref1である2つの前方参照フレームを使用する例示的な投影MEプロセス400を示す。これらの参照フレームは、(フレーム410として示される)現在のフレームPにおける現在のターゲットブロック440の動きベクトルを導出するために使用される。サーチウィンドウ470は、参照フレーム420において特定され、サーチパスは、サーチウィンドウ470において特定される。サーチパスにおけるそれぞれの動きベクトルMV0について、その投影動きベクトルMV1は、参照フレーム430のサーチウィンドウ460において決定される。動きベクトルMV0とその関連する動きベクトルMV1のそれぞれのペアについて、(1)参照フレーム420においてMV0により示される参照ブロック480と(2)参照フレーム430においてMV1により示される参照ブロック450との間で、絶対差分値(SAD)の合計のようなメトリックが計算される。例えば最小のSADのようなメトリックの最適な値を生じさせる動きベクトルMV0が、ターゲットブロック440の動きベクトルとして選択される。
現在のブロックの出力動きベクトルの精度を改善するため、幾つかの実現は、デコーダ側のMEの測定メトリックにおける空間的に隣接する再構成された画素を含む。図5において、デコーダ側のMEは、空間的な動きの相関を利用することで、空間的に隣接するブロックで実行される。図5は、現在のピクチャ(又はフレーム)510において(ターゲットブロック530の上及び左にあるブロックとして示される)1以上の隣接するブロック540を利用する実施の形態500を示す。これは、前の参照フレーム520及び後続する参照フレーム560のそれぞれにおける1以上の対応するブロック550及び555に基づいて、動きベクトルの生成を可能にする。ここで、用語「前“previous”」及び「後続の“subsequent”」は、時間的な順序を示す。次いで、動きベクトルは、ターゲットブロック530に適用される。実施の形態では、ターゲットブロックの上、左、上及び左、上及び右、にある空間的に隣接するブロックを決定するため、ラスタスキャンの符号化順序が使用される。このアプローチは、Bフレームについて使用され、復号化のために先行するフレーム及び後続するフレームの両者を使用する。
図5により例示されるアプローチは、隣接するブロックがシーケンシャルスキャンの符号化順序でターゲットブロックの前に復号化される限り、現在のフレームにおける空間的に隣接するブロックの利用可能な画素に適用される場合がある。さらに、このアプローチは、現在のフレームについて、参照フレームリストにおける参照フレームに関して動きサーチを適用する場合がある。
図5により例示されるアプローチは、空間的に隣接しているブロックがシーケンシャルスキャンの符号化順序においてターゲットブロックの前に符号化される限り、現在のフレームにおいて空間的に隣接しているブロックの利用可能な画素に適用される場合がある。
さらに、このアプローチは、現在のフレームの参照フレームリストにおける参照フレームに関して動きサーチを適用する場合がある。
図5の実施の形態の処理は、以下のように行われる。1以上の画素ブロックは、現在のフレームにおいて識別され、識別されたブロックは、現在のフレームのターゲットブロックに隣接する。識別されたブロックの動きサーチは、時間的に後続する参照フレームにおける対応するブロック、及び前の参照フレームにおける対応するブロックに基づいて実行される。動きサーチにより、識別されたブロックの動きベクトルが得られる。代替的に、隣接するブロックの動きベクトルは、それらのブロックの識別の前に決定される。次いで、動きベクトルは、ターゲットブロックの動きベクトルを導出するために使用され、次いで、この動きベクトルは、ターゲットブロックの動き補償のために使用される。この導出は、当業者にとって知られている適切なプロセスを使用して実行される。係るプロセスは、例えば限定されるものではないが、加重平均又はメディアンフィルタリングである場合がある。
現在のピクチャがリファレンスバッファにおいて後方参照ピクチャ及び前方参照ピクチャの両者を有する場合、ピクチャレベル及びブロックレベルの適応サーチレンジベクトルを取得するため、ミラーMEについて使用されたのと同じ方法が使用される。さもなければ、前方参照ピクチャのみが利用される場合、ピクチャレベル及びブロックレベルの適応サーチレンジを取得するため、投影MEについて上述された方法が使用される。
時間的な順序において、前及び続いて起こる再構成されたフレームの対応するブロックは、動きベクトルを導出するために使用される。このアプローチは、図6で例示されている。現在のフレーム610におけるターゲットブロック630を符号化するため、既にデコードされた画素が使用され、この場合、これらの画素は、フレーム615として示される前のピクチャの対応するブロック640、ピクチャ655として示される次のフレームの対応するブロック665において発見される。第一の動きベクトルは、参照フレーム、ピクチャ620の1以上のブロック650を通して動きサーチを行うことで、対応するブロック640について導出される。ブロック650は、前のピクチャ615のブロック640に対応する参照フレーム620におけるブロックに隣接する。第二の動きベクトルは、参照ピクチャ、すなわちフレーム660の1以上のブロック670を通して動きサーチを行うことで、次のフレーム655の対応するブロック665について導出される。ブロック670は、次のフレーム655のブロック665に対応する参照ピクチャ660におけるブロックに隣接する。第一及び第二の動きベクトルに基づいて、ターゲットブロック630の前方及び/又は後方の動きベクトルが決定される。次いで、これら後者の動きベクトルは、ターゲットブロックの動き補償のために使用される。
係る状況のME処理は、以下の通りである。はじめに、ブロックは、前のフレームにおいて識別され、この場合、この識別されたブロックは、現在のフレームのターゲットブロックに対応する。第一の動きベクトルは、前のフレームのこの識別されたブロックについて決定され、この場合、第一の動きベクトルは、第一の参照フレームの対応するブロックに関して定義される。ブロックは、続いて起こるフレームにおいて識別され、この場合、このブロックは、現在のフレームのターゲットブロックに対応する。第二の動きベクトルは、続いて起こるフレームのこの識別されたブロックについて決定され、この場合、第二の動きベクトルは、第二の参照フレームの対応するブロックに関して定義される。それぞれ第一及び第二の動きベクトルを使用して、ターゲットブロックについて、1又は2の動きベクトルが決定される。類似の処理がデコーダで行われる場合がある。
現在のピクチャを符号化/復号化するとき、前のフレーム615と参照フレーム620との間のブロック動きベクトルが利用可能な場合がある。これらの動きベクトルを使用して、投影MEについて上述されたやり方で、ピクチャレベルの適応サーチレンジを決定することができる。ミラーMEのケースにおけるように、ブロックレベルの適応サーチレンジを導出するため、対応するブロックの動きベクトル及び対応するブロックに空間的に隣接するブロックの動きベクトルを使用することができる。
候補に基づくMEは、デコーダ側でMEの複雑度を低減するために実行することができ、エンコーダ及びデコーダは、ミスマッチを回避するために同じ候補を使用するべきである。候補となる動きベクトルは、ゼロMV及び符号化された空間的に隣接しているブロック及び符号化された時間的に隣接しているブロックの動きベクトルから導出されたMVとすることができる。例えば、図7に示されるように、空間的に隣接しているブロックA-EのMVは、これらが利用可能である場合に候補として使用することができ、ブロックA-Eのメディアンフィルタリングが施されたMVを候補として使用することもできる。より正確なMVを取得するため、候補となる動きベクトルは、それらの周りで小範囲の動きサーチを行うことでリファインすることができ、エンコーダ及びデコーダは、同じリファインスキームを使用すべきである。次いで、リファインメントが適用される。例えば、全ての候補となる動きベクトルがチェックされる。最小の絶対差分の合計(SAD: Sum of Absolute Differences)をもつ候補となる動きベクトルが選択される。次いで、小範囲の動きサーチは、最終的な動きベクトルを決定するため、この最良の候補の周りで実行される。代替的に、小範囲の動きサーチは、それぞれの候補となる動きベクトルの周りで実行される。これは、対応するリファインされた候補のセットに繋がる。次いで、参照のSADを有するリファインされた候補は、最終的な動きベクトルとして使用される。
候補に基づくDMVDについて更なるバリエーションが存在する。実施の形態では、全ての候補となる動きベクトルがチェックされ、最小のSADをもつ候補となる動きベクトルが最終的に導出されるMVとして使用される。このように、後続するリファインプロセスが実行されない場合がある。結果として得られる動きベクトルは、フラクショナルピクセル(fractional pixel)を示す場合があり、画素の補間は、SADを計算するための画素の値を生成することが必要とされる。これは、図8に例示される。ステップ810で、候補となる動きベクトルのグループが決定される。ステップ820で、最小のSADを有する候補が選択される。選択された候補となる動きベクトルがフラクショナルピクセルを示すかに関して判定が行われる。選択された候補となる動きベクトルがフラクショナルピクセルを示す場合、ステップ840で、画素の補間が行われる。
画素の補間の複雑度は、実施の形態において回避され、この場合、候補となる動きベクトルは、それらを最も近い整数の画素(whole pixel)に丸めることで、整数の画素の位置に強制することである。次いで、丸められた候補となる動きベクトルがチェックされ、最小のSADをもつ動きベクトルが最終的に導出されたMVとして使用される。このように、画素の補間は、必要ではなく、復号化の複雑度を低減することができる。これは、実施の形態に従って、図9において例示されている。ステップ910で、候補となる動きベクトルが決定される。ステップ920で、これらの候補となる動きベクトルにより識別された画素は、最も近い整数の画素に丸められる。係る画素は、フラクショナルピクセルの丸めから生じた場合に、整数の画素として見られる場合がある。結果として得られる動きベクトルは、丸められた候補となる動きベクトルとして記載される。ステップ930で、最も低いSADを有する丸められた候補となる動きベクトルが決定される。ステップ940で、この最も低いSADの丸められた候補となる動きベクトルは、最終的に導出された動きベクトルとして使用される。
代替的な実施の形態では、候補となる動きベクトルは、それらを最も近い整数の画素に丸めることで、整数の画素の位置に強制される場合がある。次いで、全ての丸められた動きベクトルがチェックされ、最良の(すなわち最も低い)SADを有する丸められた候補となる動きベクトルが識別される。この最小の丸められた候補となるMVに対応するオリジナルの丸められていないMVは、最終的に導出されたMVとして使用される。この代替は、MEの複雑度を増加せず、より高いMVの精度を提供する。係る実施の形態は、図10に例示されている。ステップ1010で、候補となる動きベクトルが決定される。ステップ1020で、候補となる動きベクトルに対応する画素は、最も近い整数の画素に丸められ、結果として丸められた候補となる動きベクトルが得られる。ステップ1030で、最も低いSADを有する丸められた候補となる動きベクトルが決定される。ステップ1040で、最も低いSADの丸められた候補となる動きベクトルに対応するオリジナルの丸められていない候補となる動きベクトルは、最終的に導出された動きベクトルとして使用される。
別の代替として、最小の丸められた候補を識別した後、最良の丸められた候補の周りの小範囲の整数の画素のリファインメントMEが行われる。このサーチから得られる最良のリファインされた整数のMVは、最終的に導出されたMVとして使用される。リファインメントMEは整数の画素に行われるので、補間処理が必要とされず、復号化の複雑度の増加は、大きな影響を及ぼすものではない。係る実施の形態は、図11に例示される。ステップ1110で、候補となる動きベクトルが決定される。ステップ1120で、候補となる動きベクトルに対応する画素は、最も近い整数の画素に丸められ、結果として丸められた候補となる動きベクトルが得られる。ステップ1130で、最も低いSADを有する丸められた候補となる動きベクトルが決定される。ステップ1140で、最も低いSADの丸められた候補の周りで定義された小範囲においてサーチが行われる。ステップ1150で、このサーチレンジにおいて、最小のSADをもつ整数の動きベクトルが決定される。ステップ1160で、この決定された整数の動きベクトルは、最終的に導出された動きベクトルとして使用される。
代替的な実施の形態では、小範囲の整数の画素のリファインメントMEを実行し、前の実施の形態で述べたように最良のリファインされた整数のMVを取得した後、例えば中央位置といった、最良のリファインされた整数のMVと最良の丸められた候補との間で、中間的な位置が使用される場合がある。次いで、この中間位置に対応するベクトルは、最終的に導出されたMVとして使用される。この実施の形態は、MEの複雑度を増加しないが、改善された精度を提供することができる。
この実施の形態は、図12に例示される。ステップ1210で、候補となる動きベクトルが決定される。ステップ1220で、候補となる動きベクトルに対応する画素は、最も近い整数の画素に丸められ、結果として丸められた候補となる動きベクトルが得られる。ステップ1230で、最も低いSADを有する丸められた候補となる動きベクトルが決定される。ステップ1240で、最も低いSADの丸められた候補の周りで定義された小範囲においてサーチが行われる。ステップ1250で、このサーチレンジにおいて、最小のSADをもつ整数の動きベクトルが決定される。ステップ1260で、最も低いSADをもつ丸められた候補と、ステップ1250で識別された、サーチレンジで最も低いSADをもつ整数の動きベクトルとの間で、中央位置の整数の動きベクトルが決定される。この中央位置の整数の動きベクトルは、実施の形態において、2つの平均に最も近い整数の動きベクトルである場合がある。代替的に、中央位置の動きベクトルは、最も低いSADの丸められた候補と、サーチレンジにおいて最も低いSADをもつ整数の動きベクトルとの平均であり、この場合、この中央位置の動きベクトルは、フラクショナルピクセルを示す。
本明細書で開示される1以上の機能は、ディスクリート回路及び集積回路ロジック、特定用途向け集積回路(ASIC)ロジック、マイクロコントローラを含めて、ハードウェア、ソフトウェア、ファームウェア及びこれらの組み合わせで実現され、ドメインに固有の集積回路パッケージ、又は集積回路パッケージの組み合わせの一部として実現される場合がある。用語「ソフトウェア」は、本明細書で使用されたとき、コンピュータシステムに、本明細書で開示された1以上の機能及び/又は機能の組み合わせを実行させるコンピュータプログラムロジックを記憶したコンピュータ読み取り可能な記録媒体を含むコンピュータプログラムプロダクトを示す。
本明細書で記載される処理のソフトウェア又はファームウェアの実施の形態は、図13に例示される。この図では、システム1300は、プロセッサ1320、及びコンピュータプログラムロジック1340を記憶する1以上のコンピュータ読み取り可能な記録媒体を含むメモリのボディ1310を含む。メモリ1310は、ハードディスク及びドライブ、例えばコンパクトディスク、リードオンリメモリ(ROM)又はランダムアクセスメモリ(RAM)デバイスのような取り外し可能な記録媒体、或いはこれらの幾つかの組み合わせとして実現される。プロセッサ120及びメモリ1310は、バスのような当業者にとって知られている幾つかの技術の何れかを使用して接続される。メモリ1310に含まれるコンピュータプログラムロジック1340は、プロセッサ1320により読み取られて実行される。I/O1330として集合的に示されている、1以上のI/Oポート及び/又はI/Oデバイスは、プロセッサ1320及びメモリ1310に接続される。実施の形態では、システム1300は、ビデオエンコーダ又はデコーダに組み込まれる。
コンピュータプログラムロジック1340は、ラウンディングロジック1350を含む、ラウンディングロジック1350は、候補となるMVを取得して、最も近い整数のMVに丸める役割を果たす。また、コンピュータロジック1340は、小領域のサーチロジック1360を含み、このロジックは、その領域において最良のMVを発見するため、識別された丸められた候補となるMVの周りで局所的に集中した領域をサーチする役割を果たす。実施の形態では、最良のMVは、SADのようなメトリックに基づいて決定される。また、コンピュータロジック1340は、中央位置の決定ロジック1370を含む。このロジックのボディは、最も低いSADの丸められた候補と、サーチレンジおいて最も低いSADをもつ整数の動きベクトルとの間で、中央の位置の動きベクトルを決定する役割を果たす。代替的な実施の形態では、当業者により理解されるように、動きベクトルを導出するために使用される他のプロセスを指示するために更なるロジックモジュールが使用される場合がある。
機能、特徴及びそれらの関係を例示する機能的なビルディングブロックにより、本方法及びシステムが開示された。これらの機能的なビルディングブロックの境界の少なくとも幾つかは、説明の便宜のために本明細書で任意に定義された。特定された機能及びその関係が適切に行われる限りにおいて、代替的な境界が定義される場合がある。
本明細書において様々な実施の形態が開示されたが、これらの実施の形態は例示するものであって、限定するものではないことを理解されたい。形式及び詳細における様々な変形は本明細書で開示された方法及びシステムの精神及び範囲から逸脱することなしに行われることは、当業者にとって明らかであろう。従って、特許請求の範囲の幅及び範囲は、本明細書で開示された例示的な実施の形態の何れかにより制限されるべきではない。

Claims (24)

  1. 現在のピクチャにおいて符号化されるターゲットブロックの候補となる動きベクトルを決定する段階と、
    それぞれの候補となる動きベクトルについて、関連する画素の位置を最も近い整数の画素に丸めて、丸められた候補となる動きベクトルを生成する段階と、
    最も低い関連される絶対差分の合計(SAD)を有する、丸められた候補となる動きベクトルを決定する段階とを含む方法であって、
    当該方法は、ビデオデコーダにおける適切にプログラムされたプロセッサにより実行される、方法。
  2. 決定された最も低いSADをもつ丸められた候補となる動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階を更に含む、
    請求項1記載の方法。
  3. 前記最も低いSADをもつ丸められた候補となる動きベクトルに対応する候補となるMVを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階を更に含む、
    請求項1記載の方法。
  4. 前記最も低いSADを持つ丸められた候補の周りの定義された範囲においてサーチを行い、前記定義された範囲において最も低いSADをもつ整数の動きベクトルを発見する段階を更に含む、
    請求項1記載の方法。
  5. 前記定義された範囲において最も低いSADをもつ整数の動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階を更に含む、
    請求項4記載の方法。
  6. 前記最も低いSADをもつ丸められた候補となる動きベクトルと、前記定義された範囲において前記最も低いSADをもつ整数の動きベクトルとの間で、中央の位置の整数の動きベクトルを決定する段階と、
    決定された中央の位置の整数の動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階と、
    を更に含む請求項4記載の方法。
  7. 前記候補となる動きベクトルは、前記ターゲットブロックに空間的に隣接する符号化されたブロックの動きベクトルから導出される、
    請求項1記載の方法。
  8. 前記候補となる動きベクトルは、前記ターゲットブロックに時間的に隣接する符号化されたブロックの動きベクトルから導出される、
    請求項1記載の方法。
  9. プロセッサと、
    前記プロセッサと結合されるメモリとを備えるシステムであって、
    前記メモリは、
    現在のピクチャにおいて符号化されるターゲットブロックの候補となる動きベクトルを決定し、
    それぞれの候補となる動きベクトルについて、関連する画素の位置を最も近い整数の画素に丸めて、丸められた候補となる動きベクトルを生成し、
    最も低い関連される絶対差分の合計(SAD)を有する、丸められた候補となる動きベクトルを決定する、
    ように前記プロセッサに指示する複数の処理命令を記憶する、システム。
  10. 前記メモリは、
    決定された最も低いSADをもつ丸められた候補となる動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する、
    ように前記プロセッサに指示する処理命令を更に記憶する、
    請求項9記載のシステム。
  11. 前記メモリは、
    前記最も低いSADをもつ丸められた候補となる動きベクトルに対応する候補となるMVを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する、
    ように前記プロセッサに指示する処理命令を更に記憶する、
    請求項9記載のシステム。
  12. 前記メモリは、
    前記最も低いSADをもつ丸められた候補の周りの定義された範囲においてサーチを行い、前記定義された範囲において最も低いSADをもつ整数の動きベクトルを発見する、
    ように前記プロセッサに指示する処理命令を更に記憶する、
    請求項9記載のシステム。
  13. 前記メモリは、
    前記定義された範囲において最も低いSADをもつ整数の動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する、
    ように前記プロセッサに指示する処理命令を更に記憶する、
    請求項12記載のシステム。
  14. メモリは、
    前記最も低いSADをもつ丸められた候補となる動きベクトルと、前記定義された範囲において前記最も低いSADをもつ整数の動きベクトルとの間で、中央の位置の整数の動きベクトルを決定し、
    決定された中央の位置の整数の動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する、
    ように前記プロセッサに指示する処理命令を更に記憶する、
    請求項12記載のシステム。
  15. 前記候補となる動きベクトルは、前記ターゲットブロックに空間的に隣接する符号化されたブロックの動きベクトルから導出される、
    請求項9記載のシステム。
  16. 前記候補となる動きベクトルは、前記ターゲットブロックに時間的に隣接する符号化されたブロックの動きベクトルから導出される、
    請求項9記載のシステム。
  17. コンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体であって、
    前記コンピュータプログラムは、プロセッサに、
    現在のピクチャにおいて符号化されるターゲットブロックの候補となる動きベクトルを決定する段階と、
    それぞれの候補となる動きベクトルについて、関連する画素の位置を最も近い整数の画素に丸めて、丸められた候補となる動きベクトルを生成する段階と、
    最も低い関連される絶対差分の合計(SAD)を有する、丸められた候補となる動きベクトルを決定する段階と、
    を含む方法を実行させるための命令を含む、コンピュータ読み取り可能な記録媒体。
  18. 前記命令は、前記プロセッサに、
    決定された最も低いSADをもつ丸められた候補となる動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階を実行させる命令を更に含む、
    請求項17記載のコンピュータ読み取り可能な記録媒体。
  19. 前記命令は、前記プロセッサに、
    前記最も低いSADをもつ丸められた候補となる動きベクトルに対応する候補となるMVを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階を実行させる命令を更に含む、
    請求項17記載のコンピュータ読み取り可能な記録媒体。
  20. 前記命令は、前記プロセッサに、
    前記最も低いSADを持つ丸められた候補の周りの定義された範囲においてサーチを行い、前記定義された範囲において最も低いSADをもつ整数の動きベクトルを発見する段階を実行させる命令を更に含む、
    請求項17記載のコンピュータ読み取り可能な記録媒体。
  21. 前記命令は、前記プロセッサに、
    前記定義された範囲において最も低いSADをもつ整数の動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階を実行させる命令を更に含む、
    請求項20記載のコンピュータ読み取り可能な記録媒体。
  22. 前記命令は、前記プロセッサに、
    前記最も低いSADをもつ丸められた候補となる動きベクトルと、前記定義された範囲において前記最も低いSADをもつ整数の動きベクトルとの間で、中央の位置の整数の動きベクトルを決定する段階と、
    決定された中央の位置の整数の動きベクトルを、ビデオ伸張のための最終的に導出された動きベクトルとして使用する段階と、
    を実行させる命令を更に含む請求項20記載のコンピュータ読み取り可能な記録媒体。
  23. 前記候補となる動きベクトルは、前記ターゲットブロックに空間的に隣接する符号化されたブロックの動きベクトルから導出される、
    請求項17記載のコンピュータ読み取り可能な記録媒体。
  24. 前記候補となる動きベクトルは、前記ターゲットブロックに時間的に隣接する符号化されたブロックの動きベクトルから導出される、
    請求項17記載のコンピュータ読み取り可能な記録媒体。
JP2013532027A 2010-10-06 2011-04-01 低複雑度の動きベクトルを導出するシステム及び方法 Expired - Fee Related JP5579937B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US39046110P 2010-10-06 2010-10-06
US61/390,461 2010-10-06
PCT/CN2011/000568 WO2012045225A1 (en) 2010-10-06 2011-04-01 System and method for low complexity motion vector derivation

Publications (2)

Publication Number Publication Date
JP2013543318A true JP2013543318A (ja) 2013-11-28
JP5579937B2 JP5579937B2 (ja) 2014-08-27

Family

ID=45927205

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013532027A Expired - Fee Related JP5579937B2 (ja) 2010-10-06 2011-04-01 低複雑度の動きベクトルを導出するシステム及び方法

Country Status (6)

Country Link
US (1) US20120294370A1 (ja)
EP (1) EP2625858A4 (ja)
JP (1) JP5579937B2 (ja)
KR (1) KR101393824B1 (ja)
TW (1) TWI493975B (ja)
WO (1) WO2012045225A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017112416A (ja) * 2015-12-14 2017-06-22 日本電気株式会社 映像符号化装置、映像符号化方法及び映像符号化プログラム
JP2018513612A (ja) * 2015-03-27 2018-05-24 クゥアルコム・インコーポレイテッドQualcomm Incorporated ビデオコーディングにおける動き情報導出モードの決定
WO2018097078A1 (ja) * 2016-11-22 2018-05-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
WO2018097079A1 (ja) * 2016-11-22 2018-05-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
JP2022540771A (ja) * 2019-06-24 2022-09-20 ホアウェイ・テクノロジーズ・カンパニー・リミテッド 双予測のオプティカルフロー計算および双予測補正におけるブロックレベル境界サンプル勾配計算のための整数グリッド参照サンプルの位置を計算するための方法

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6765964B1 (en) 2000-12-06 2004-07-20 Realnetworks, Inc. System and method for intracoding video data
US9654792B2 (en) 2009-07-03 2017-05-16 Intel Corporation Methods and systems for motion vector derivation at a video decoder
US8917769B2 (en) * 2009-07-03 2014-12-23 Intel Corporation Methods and systems to estimate motion based on reconstructed reference frames at a video decoder
US8462852B2 (en) 2009-10-20 2013-06-11 Intel Corporation Methods and apparatus for adaptively choosing a search range for motion estimation
KR101422422B1 (ko) 2010-12-21 2014-07-23 인텔 코오퍼레이션 Dmvd 처리 향상을 위한 시스템 및 방법
CN102710934B (zh) * 2011-01-22 2015-05-06 华为技术有限公司 一种运动预测或补偿方法
FR2980942A1 (fr) * 2011-09-30 2013-04-05 France Telecom Procede de codage et de decodage d'images, dispositif de codage et de decodage d'images et programmes d'ordinateur correspondants
US9325991B2 (en) * 2012-04-11 2016-04-26 Qualcomm Incorporated Motion vector rounding
PL400344A1 (pl) * 2012-08-13 2014-02-17 Politechnika Poznanska Sposób wyznaczania predyktora wektora ruchu
US10531116B2 (en) * 2014-01-09 2020-01-07 Qualcomm Incorporated Adaptive motion vector resolution signaling for video coding
US11638027B2 (en) 2016-08-08 2023-04-25 Hfi Innovation, Inc. Pattern-based motion vector derivation for video coding
US20180192071A1 (en) * 2017-01-05 2018-07-05 Mediatek Inc. Decoder-side motion vector restoration for video coding
US11272207B2 (en) * 2017-06-12 2022-03-08 Futurewei Technologies, Inc. Selection and signaling of motion vector (MV) precisions
GB2588003B (en) 2018-06-05 2023-04-19 Beijing Bytedance Network Tech Co Ltd Interaction between pairwise average merging candidates and IBC
JP7324841B2 (ja) * 2018-11-10 2023-08-10 北京字節跳動網絡技術有限公司 ビデオ・データ処理方法、装置、記憶媒体及び記憶方法
WO2020211755A1 (en) * 2019-04-14 2020-10-22 Beijing Bytedance Network Technology Co., Ltd. Motion vector and prediction sample refinement

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6081554A (en) * 1998-10-02 2000-06-27 The Trustees Of Columbia University In The City Of New York Method to control the generated bit rate in MPEG-4 shape coding
KR100408294B1 (ko) * 2001-09-05 2003-12-01 삼성전자주식회사 저전송율 동영상 부호화에 적합한 움직임 추정 방법
US20030095603A1 (en) * 2001-11-16 2003-05-22 Koninklijke Philips Electronics N.V. Reduced-complexity video decoding using larger pixel-grid motion compensation
KR100412501B1 (ko) * 2001-11-30 2003-12-31 삼성전자주식회사 움직임 보상을 위한 화소값 선택 장치 및 방법
KR100474285B1 (ko) * 2002-04-08 2005-03-08 엘지전자 주식회사 모션벡터결정방법
US20040258154A1 (en) * 2003-06-19 2004-12-23 Microsoft Corporation System and method for multi-stage predictive motion estimation
US7978770B2 (en) * 2004-07-20 2011-07-12 Qualcomm, Incorporated Method and apparatus for motion vector prediction in temporal video compression
US8780997B2 (en) * 2005-11-18 2014-07-15 Apple Inc. Regulation of decode-side processing based on perceptual masking
JP4987322B2 (ja) * 2006-02-28 2012-07-25 株式会社東芝 動画像復号装置及び動画像復号方法
KR20080085423A (ko) 2007-03-20 2008-09-24 엘지전자 주식회사 Bma 연산기 및 이를 이용한 인코더
US20080240242A1 (en) * 2007-03-27 2008-10-02 Nokia Corporation Method and system for motion vector predictions
WO2010086041A1 (en) * 2009-01-30 2010-08-05 Gottfried Wilhelm Leibniz Universität Hannover Method and apparatus for coding and decoding a video signal

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JPN6014000490; Chiu,Y-J.,Xu,L.,Zhang,W., and Jiang,H.: 'TE1: Report of self derivation of motion estimation improvement in TMuC' Joint Collaborative Team on Video Coding (JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC , 20101003 *
JPN6014000496; Ueda,M.: 'TE1.a: Implementation report of Refinement Motion Compensation using DMVD on TMuC' Joint Collaborative Team on Video Coding (JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC , 20101001 *
JPN7014000040; Chiu,Y-J.,Xu.L.,Zhang,W., and Jiang,H.: 'Self-derivation of motion estimation techniques to improve video coding efficiency' Applications of Digital Image Processing XXXIII Proc. of SPIE Vol.7798, 20100907 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018513612A (ja) * 2015-03-27 2018-05-24 クゥアルコム・インコーポレイテッドQualcomm Incorporated ビデオコーディングにおける動き情報導出モードの決定
US10958927B2 (en) 2015-03-27 2021-03-23 Qualcomm Incorporated Motion information derivation mode determination in video coding
US11330284B2 (en) 2015-03-27 2022-05-10 Qualcomm Incorporated Deriving motion information for sub-blocks in video coding
JP2017112416A (ja) * 2015-12-14 2017-06-22 日本電気株式会社 映像符号化装置、映像符号化方法及び映像符号化プログラム
WO2018097078A1 (ja) * 2016-11-22 2018-05-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
WO2018097079A1 (ja) * 2016-11-22 2018-05-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
JP2022540771A (ja) * 2019-06-24 2022-09-20 ホアウェイ・テクノロジーズ・カンパニー・リミテッド 双予測のオプティカルフロー計算および双予測補正におけるブロックレベル境界サンプル勾配計算のための整数グリッド参照サンプルの位置を計算するための方法
JP7384939B2 (ja) 2019-06-24 2023-11-21 ホアウェイ・テクノロジーズ・カンパニー・リミテッド 双予測のオプティカルフロー計算および双予測補正におけるブロックレベル境界サンプル勾配計算のための整数グリッド参照サンプルの位置を計算するための方法

Also Published As

Publication number Publication date
KR20130070648A (ko) 2013-06-27
EP2625858A1 (en) 2013-08-14
EP2625858A4 (en) 2015-01-14
TW201233186A (en) 2012-08-01
WO2012045225A1 (en) 2012-04-12
JP5579937B2 (ja) 2014-08-27
US20120294370A1 (en) 2012-11-22
TWI493975B (zh) 2015-07-21
KR101393824B1 (ko) 2014-05-13

Similar Documents

Publication Publication Date Title
JP5579937B2 (ja) 低複雑度の動きベクトルを導出するシステム及び方法
US11765380B2 (en) Methods and systems for motion vector derivation at a video decoder
JP5721851B2 (ja) Dmvd処理のシステムおよび方法の改善
CN110809887B (zh) 用于多参考预测的运动矢量修正的方法和装置
KR101239567B1 (ko) 움직임 추정에 대한 검색 범위 선택 방법과 그의 시스템 및 컴퓨터 판독가능 저장 매체
CN113709498B (zh) 帧间预测方法、编码器、解码器以及计算机存储介质
KR20180018903A (ko) 참조 프레임 선택 방법 및 그 장치
TWI517671B (zh) 用於增強型解碼器側移動向量導出(dmvd)處理之系統及方法
NZ760521B2 (en) Motion vector refinement for multi-reference prediction

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140416

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140423

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140521

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140610

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140709

R150 Certificate of patent or registration of utility model

Ref document number: 5579937

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees