JP5102228B2 - ビデオ符号化 - Google Patents

ビデオ符号化 Download PDF

Info

Publication number
JP5102228B2
JP5102228B2 JP2008554510A JP2008554510A JP5102228B2 JP 5102228 B2 JP5102228 B2 JP 5102228B2 JP 2008554510 A JP2008554510 A JP 2008554510A JP 2008554510 A JP2008554510 A JP 2008554510A JP 5102228 B2 JP5102228 B2 JP 5102228B2
Authority
JP
Japan
Prior art keywords
signal
block
sub
quantized
generating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008554510A
Other languages
English (en)
Other versions
JP2009526499A (ja
Inventor
ナガラジ、ラグハベンドラ・シー.
ワン、カイ
マラヤス、ナレンドラナス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2009526499A publication Critical patent/JP2009526499A/ja
Application granted granted Critical
Publication of JP5102228B2 publication Critical patent/JP5102228B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/19Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding using optimisation based on Lagrange multipliers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/567Motion estimation based on rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本出願は、ビデオ符号器、および、そこに使用されるコスト関数に関する。
画像圧縮は、ディジタル映像データの圧縮を含んでいる。画像圧縮は、ビデオファイル・フォーマットおよびストリームビデオ・フォーマットにおいてビデオデータの効率的な符号化に使用される。圧縮は、データをより効率的に保存するか送信することができるように通常行なわれている、より少数のビットのフォーマットへのデータのリバー変換である。そのプロセスの逆、デコンプレッションがオリジナル・データの正確なレプリカを生成する場合には、その圧縮は可逆である。イメージデータに通常適用されるロッシ圧縮(lossy compression)は、オリジナル画像の正確なレプリカの再生を可能にしない。しかし、それはより効率的である。可逆の画像圧縮は可能であるが、実際上、それは事実上使用されない。標準のビデオデータ・レート・リダクションは、データを切り捨てることを含んでいる。
ビデオは、基本的に色ピクセルの3次元配列である。2次元は、動画の空間の(水平および垂直)方向を提供する。また、1次元は時間領域を表わす。
フレームは、単一の時点に対応する(ほぼ)1セットのピクセルすべてである。基本的に、フレームは静止画と同じである。しかしながら、インターレース・ビデオにおいて、偶数番号の水平ラインのセットおよび奇数番号のセットは、フィールドで一まとめにされる。用語「絵(picture)」は、フレームまたはフィールドを指すことができる。
ビデオデータは、空間・時間の冗長度を含んでいる。類似性は、フレーム間の(時間的な)、および/またはフレーム内の(空間的な)、違いを単に記録することにより、符号化することができる。空間的な符号化は、明るさにおいて変更できるのと同じように容易に、人間の目が色の小さな差を識別することができないという事実の利用により行なわれる。それゆえ、色の非常に類似したエリアは、「平均する」ことができる。
時間的な圧縮では、ピクセルの大数が多くの場合一連のフレーム上で同じになるので、1つのフレームから次のものまでの変化のみがコード化される。
画像圧縮は、典型的には、ロッシ圧縮を使用して、この冗長度を縮小する。通常、これは、(a)フレームから空間的な冗長度を縮小する画像データ圧縮技術(これはフレーム内(intraframe)圧縮または空間的な圧縮として知られている)、および、(b)動き補償および時間的な冗長度を縮小する他の技術(フレーム間(interframe)圧縮または時間的な圧縮として知られている)によって達成される。
H.264/AVCは、ISO(国際標準化機構)およびITU(国際電気通信連合)の共同事業に由来する画像圧縮標準である。図1は、H.264/AVC符号器ついてのブロック図を示す。入力映像フレーム102は、マクロブロック104に分割され、システム100に供給される。各マクロブロック104について、予測値132が生成され、残差(residual)107を生成するためにオリジナルのマクロブロック104から引かれる。この残差107は、それから変換108され、量子化110される。
量子化されたマクロブロックは、それから圧縮したビットストリーム列113を生成するためにエントロピー符号化112される。量子化されたマクロブロックは、また逆量子化114され、逆変換116され、さらに加算器118によって予測値に加えられる。復元されたマクロブロックは、デブロッキングフィルタ120によりマクロブロックの端についてフィルターされ、次に、メモリ122に格納される。
量子化は、原理において、信号のダイナミック・レンジを縮小することを含んでいる。これは、エントロピー符号化によって生成されたビット数(レート)を詰め込む。これは、さらに残差の損失を招き、それはオリジナルと改造されたマクロブロックとを異ならせる。この損失は通常、量子化誤差(ひずみ)と呼ばれる。量子化の強さは、量子化係数パラメータによって決定される。量子化パラメータが大きいほど、ひずみは、より大きく、およびレートはより低い。
上に議論されるように、予測値(predictor)は、イントラ(intra)128、及びインター(inter)130の2つのタイプになりえる。空間的な推定124は、多数の選択の中からのイントラ予測値(intra predictor)128を生成するために、1つのフレーム内において近隣のマクロブロックを見る。動きの推定126は、多数の選択の中からのインター予測値(inter predictor)130を生成するために、前の/将来のフレームを見る。インター予測値は、時間的な冗長度を減少させることを目標とする。典型的には、時間的な冗長度を減少させることは、低減率に最も大きな影響を及ぼす。
動きの推定は、それが選ばなければならない可能性のある予測値の巨大な数のために、符号器において最も計算上費用のかかるブロックのうちの1つかもしれない。実際に、動きの推定は、前のフレームのサブセットを含むサーチエリアのインター予測値を探索することを含んでいる。サーチエリアからの可能性のある予測値または候補は、コスト関数または距離(metric)に基づいて調べられる。一旦、距離がサーチエリアのすべての候補のために計算されれば、距離を最小化する候補がインター予測値として選ばれる。従って、動きの推定に影響する主な要因は、サーチエリア・サイズ、サーチ技法およびコスト関数、である、
特にコスト関数に注目すると、コスト関数は、本質的に現在フレームのオリジナルのブロックとサーチエリアの候補ブロックの間の冗長度を数量化する。冗長度は、理想としては、正確なレートおよび、ひずみの点から数量化されるべきである。
現在の動き推定量において使用されるコスト関数は、差分絶対値和(Sum-of-Absolute-Difference)(SAD)である。図2は、SADがどのように計算されるか示す。Frame(t) 206は、符号化MB(MACROBLOCK) RAM212に格納されるマクロブロック208を含んでいる現在フレームである。Frame(t-1) 202は、サーチRAM210に格納されるサーチエリア204を含んでいる前のフレームである。1つを超える前のフレームを使用することができることが認識される。
図2における例において、サーチエリア204のサイズは、M×Nである。検討するブロックのサイズをA×Bとする。ここでAとBは表1に定義される。現在フレーム206から与えられたブロック208をc215と表示する。サーチエリア204からの各候補をp(x,y)214と表示する。ここで、x∈[0,N]およびy∈[0,M]である。(x,y)は、サーチエリア214の位置を表わす。
Figure 0005102228
下記のステップが動きベクトル(X、Y)を得るために計算される。
cは、残余誤差信号218、e(x,y)を得るために、p(x,y)214について、p(x,y)214によって、動き補償216される。
Figure 0005102228
その後、SAD222が、e(x,y)から計算される220。
Figure 0005102228
その後、動きベクトル(X、Y)が、SAD(x,y)から計算される。
Figure 0005102228
理想的には、予測値マクロブロック・パーティションは、最も厳密にマクロブロックに似ているマクロブロック・パーティションであるべきである。SADの短所のうちの1つは、それが明確にかつ正確にレート(Rate)と、ひずみ(Distortion)を説明しないということである。よって、冗長度は正確に定量化されない。それゆえ、選ばれた予測マクロブロック・パーティションが最も有効な選択ではないことはありえる。したがって、SADを利用するいくつかのケースにおいて、アプローチは、実際に最適な性能より低い結果となるかも知れない。
発明の概要
1つの実施態様は、ビットレート信号を決定することを含んでいるビデオ符号器における動きの推定および補償において、予測マクロブロック・パーティションを選択し、ひずみ信号を生成し、ビットレートおよび、ひずみ信号に基づいてコストを計算し、そして、前記コストから動きベクトルを決定する方法に関する。前記動きベクトルは予測マクロブロック・パーティションを指定する。この方法は、携帯電話、ディジタル・オーガナイザ、またはラップトップ・コンピュータのような、モバイル装置において実現され得る。
詳細な説明
いくつかの実施態様が、ここで詳細に言及されるであろう。それらの例は添付図面の中で示される。実施態様が説明を制限するようには意図されないことが理解されるであろう。それどころか、その説明は、代案、修正および等価物をカバーするように意図される。それは、請求項によって定義されるような説明の精神および範囲内に含まれ得る。さらに、詳細な説明では、多数の特定の詳細は十分な理解を提供するために述べられる。しかしながら、現在の説明がこれらの特定の詳細なしで実行され得ることは当業者にとって明白かもしれない。他の実例では、周知の方法、手続き、コンポーネントおよび回路は、現在の説明の態様をむだに不明瞭にしないように詳細に記述されていない。
以下の詳細な説明のいくつかの部分は、手続き、ロジック・ブロック、処理、およびコンピューターまたはデジタルシステムのメモリ内のデータ・ビットに対するオペレーションの他の記号表現の点から示される。これらの説明と表現は、有効に他の当業者にそれらの仕事の実体を伝えるために、データ処理技術の当業者よって使用される手段である。手続き、ロジック・ブロック、プロセスなどは、ここに、そして一般に、希望の結果に導くステップまたは命令のシーケンスと理解される。
ここにおける議論から明白なものとして特に別記しない限り、実施態様の議論の全体にわたって、「決定すること」、「出力すること」、「送信すること」、「記録すること」、「置くこと」、「格納すること」、「表示すること」、「受け取ること」、「認識すること」、「利用すること」、「生成すること」、「提供すること」、「アクセスすること」、「チェックすること」、「通知すること」、または「伝えること」などの用語を、利用する議論は、データを操作し変換するコンピュータ・システムまたは同様の電子コンピューティング装置のアクションおよびプロセスに関係することが理解される。データは、コンピュータ・システムのレジスタおよびメモリ内の物理的な(電子)量として表わされ、コンピュータ・システム・メモリまたはレジスタ、他のそのような情報記憶装置、伝送装置あるいは表示装置内において物理量として同様に表わされる、他のデータに変換される。
一般に、以下の説明の実施態様は、候補マクロブロック・パーティションに、マクロブロック・パーティションが受け、予測マクロブロック・パーティションとして実際に選択されるプロセスを近似する一連のプロセスを受けさせる(一般に図1を参照)。そうすることは、各候補マクロブロック・パーティションのレートおよび、ひずみの正確な近似を可能にする。それから、実施態様は、符号化プロセスの間に生じるレートおよび、ひずみに関連したコストを最も良く最小化する候補マクロブロック・パーティションを選択するために、SADではなく、ラグランジュ関数に基づいたコスト関数を使用する。
予測マクロブロック・パーティション選択の最適解は、SADがどこに立っているか、および可能なゲインの範囲を理解することを確立する必要がある。最適解は、レート(R)制約の下の最小のひずみ(D)を保証するであろう。そのような解は、D+λRのようにレートとひずみを組み合わせる、ラグランジュ関数に基づいた最適化を使用して見つかる。λは、レートとひずみの間のトレードオフを表わすラグランジュの乗数である。図3は、RD最適化されたコスト関数についての最適解のブロック図300を示す。レートとひずみを正確に計算するために、図3に示され、下記に説明されるように、符号化プロセス全体は、候補ブロック304の各々について実行されるべきである。
現在フレーム308は、候補マクロブロック・パーティション304について、それによって、式(1)に示されるごとく残余誤差信号e(x,y)を得るために、動き補償される310。
e(x,y)は、整数個の4x4ブロックe(x,y,z)312に分割される。ここで、
Figure 0005102228
e(x,y)の サイズは、A×Bである。AとBがとることができる値は、表1に示される。e(x,y,z)をEによって表すものとする。
Figure 0005102228
E312は、空間領域からの周波数領域へ変換される314。変換されたブロックをt(x,y,z)またはT316と表示するものとする。変換は分離可能であるので、それは、E312に対して、水平(4)および垂直(5)の2段階、で適用される。E’は、中間出力を表わす。Dは、式(6)で示される変換マトリックスを表わす。
Figure 0005102228
T316は、事前に定義された量子化パラメータQで量子化される318。量子化ブロックは、l(x,y,z)あるいはL320によって表すものとする。
Figure 0005102228
Mの要素に対する値は、当技術分野において既知の表から導出される。表のサンプルは、表2に示される。
Figure 0005102228
次に、L320は、コンテキスト適応型可変長符号化(context-adaptive variable length coding)(CAVLC)方式を使用してエントロピー符号化される328。
これは、l(x,y,z)を表わすために得られたビットの数を生成する。それは、Rate(x,y,z,Q)またはRate(Q)332のように表示される。
Figure 0005102228
CAVLCが当技術分野において知られ、別のエントロピー符号化アルゴリズムがその場所において使用されてもよいことは、当業者によって認識されるべきである。
L320は量子化パラメータQで、逆量子化される322。逆量子化ブロックは、
Figure 0005102228
で表示するものとする。
Figure 0005102228
Figure 0005102228
の要素に対する値は、当技術分野において既知の表から導出される。この表のサンプルは、表3に示される。
Figure 0005102228

Figure 0005102228
は周波数領域から空間領域へ変換される326。変換されたブロックを
Figure 0005102228
で表示するものとする。この変換は分離可能であるので、それは、
Figure 0005102228
に対して、水平(14)および垂直(15)の2段階で適用される。L’は中間の出力を表わす。
Figure 0005102228
は、式(16)において示される変換マトリックスを表わす。
Figure 0005102228

Figure 0005102228
の間の2乗誤差は、ひずみ、Distortion(x,y,z,Q) あるいはDistortion(Q)を表わす。
Figure 0005102228
ラグランジュのコストCost4x4(x,y,z,Q,λ) は、定義済みのλについて計算される。
Figure 0005102228
p(x,y)についての全コストは、次式で与えられる。
Figure 0005102228
その後、動きベクトル(X,Y)は、以下のように計算される。
Figure 0005102228
ここで説明した最適解は、たとえそれが最良の可能な解を提供するとしても、実際に応用するには複雑すぎるかもしない。現在の説明の実施態様は、最適解の計算上の近似を表わす、新しいコスト関数を導入する。この計算上の近似は、同じものの複雑さを著しく縮小するけれども最適解の結果に軽微な影響を及ぼすかもしれない。
図4は、1つの実施態様のブロック図400を示す。単に最適解で、現在フレーム408は、残余誤差信号、e(x、y)を得るために、候補マクロブロック・パーティション406について、それによって動き補償される410。その後、e(x、y)は、表1に示されるように、整数個の4×4のブロック、e(x、y、z)つまりE412に分割される。それから、E412は、t(x、y、z)あるいはT416を得るために、式(4)、(5)および(6)において示されるように空間領域からの周波数領域へ変換される414。
最適解により、Tは、次に量子化されるだろう。しかしながら、それが乗算および他の複雑な2進数の関数を含んでいるので、量子化プロセスは計算上複雑である。したがって、1つの実施態様では、式(7)からのTおよびMの乗算は、一連のシフトと加算によって次のように近似される。
Figure 0005102228
したがって、式(7)は、量子化近似418にしたがい書き直すことができる。
Figure 0005102228
ここで、j∈[0,3]であり、また、xが負の場合、Sign(x)は1であり、そして正の場合0である。
SとRは、式(9)と(10)から決定することができる。
増倍係数Mは、
Figure 0005102228
で近似される。
Figure 0005102228
の値は、対応する第1の量子化近似パラメータおよび近似の増倍係数
Figure 0005102228
の対応する要素について、表4および表5で見つかる。
Figure 0005102228
Figure 0005102228
Figure 0005102228
その後、最適解によって、量子化近似ブロック420は、レート信号428を生成するためにエントロピー符号化されるであろう。しかしながら、CAVLCのようなエントロピー符号化するアルゴリズムは、高度な計算上のオペレーションを必要とする。4x4の量子化したブロックのエントロピー符号化は、トークン(ゼロでない係数の数、および引き続く1の数を示す)、サインすなわち引き続く1、ゼロでない係数のレベル、および、ゼロでない係数の間のゼロのラン、をコード化することを含んでいる。1つの実施態様では、エントロピー符号化は、レートを評価するための高速ビット推定方法(Fast Bits Estimation Method)(FBEM)の使用により、省かれる。FBEMによれば、異なる要素によって得られるビット数は、ゼロでない係数の数(Nc)、ゼロの数(Nz)および絶対値レベルの和(SAL)から導き出すことができる。
Figure 0005102228
したがって、レート428は、エントロピー符号化近似424によって各候補マクロブロック・パーティション406ごとに決定することができる。
最適解によれば、Lは、さらに逆量子化322され、および逆変換326される、必要があるだろう。量子化に類似しているので、逆量子化もまた、計算上複雑である。1つの実施態様では、これらのプロセスは、逆量子化近似によって単純化される。
逆量子化近似は、量子化近似と同じステップであるが第2の量子化パラメータを用いて行なうことにより達成される。
Figure 0005102228
1つの実施態様では、第2の量子化パラメータは、S=15(それは、ゼロのひずみ値の計算することの等価物を近似する)のごとくのものが選ばれる。
上記のステップを行うことによって、逆量子化322は著しく単純化され、そして、逆変換326はもはや必要ではない。実施態様が、第2の量子化パラメータを用いた量子化近似によって逆量子化近似を達成するので、LとL’の両方は、同じ回路類、モジュールなどから生成することができることが、認識される。
1つの実施態様において、一度、逆量子化近似ブロックL’422が生成されると、ひずみ430、Distortion(x,y,z,Q) または Distortion(Q)は、L’とLの間の2乗誤差によって表わすことができる。(L’−L)は、量子化誤差を表わし、小さなダイナミック・レンジを持っている。従って、実施態様は、2乗する演算を回避するためにルックアップテーブルに2乗された値を格納することができる。
Figure 0005102228
1つの実施態様では、整数個の4×4のブロックの各々に対するラグランジュのコストCost4x4(x,y,z,Q,λ) が、定義済みのλについて計算される。
Figure 0005102228
1つの実施態様では、p(x,y)に対する全コストは次式で与えられる。
Figure 0005102228
その後、最後に、動きベクトル(X,Y)は以下のように選択される。
Figure 0005102228
したがって、上記の実施態様は、各候補マクロブロック・パーティションのレートおよびひずみを正確に近似することができる。実施態様は、その選択処理が明確にRateとDistortionを説明するので、SADコスト関数より確実性のある最良の可能な予測マクロブロック・パーティションを選択し得る。したがって、図5および図6に示すように、実施態様は、与えられたビットレートについて、SADより高い信号対雑音比を達成することができる。
開示された実施態様の前の説明は、任意の当業者が現在の説明を作るか使用することを可能にするために提供される。これらの実施態様の様々な修正は、当業者に即座に明白かもしれない。また、ここに定義された総括的な法則は、説明の精神か範囲から外れずに、他の実施態様に適用され得る。したがって、現在の説明は、ここに示された実施態様に限定するようには意図されず、ここに開示された法則および新規な特徴と一致する最も広い範囲を与えられるべきである。
H.264/AVCビデオ符号器のブロック図を示す。 標準ビデオ符号器において使用されるような差分絶対値和コスト関数のブロック図を示す。 ビデオ符号器ついての理論上最適な解決法のレートひずみ最適化されたコスト関数(Rate-Distortion-optimized cost function)のブロック図を示す。 ビデオ符号器ついてのレートひずみ最適化されたコスト関数のブロック図を示す。 コスト関数を使用するビデオ符号器と比較した、差分絶対値和コスト関数を使用するビデオ符号器の性能の第1のグラフ例を示す。 コスト関数を使用するビデオ符号器と比較した、差分絶対値和コスト関数を使用するビデオ符号器の性能の第2のグラフ例を示す。

Claims (22)

  1. ビデオエンコーダにおける動きの推定と補償において予測マクロブロック・パーティションを選択する方法であって、
    レート信号を決定することであって、
    サーチエリアのセクションから現在フレームのマクロブロックを減算することにより、残余誤差信号を生成することと、
    前記残余誤差信号を整数個のブロックに分割することと、
    前記整数個のブロックの変換を作成するために、前記整数個のブロックを、空間領域から周波数領域に変換することと、
    前記整数個のブロックの前記変換のシフトと加算の第1の組合せによって、量子化近似ブロックを生成することであって、前記量子化近似ブロックは、ある数のゼロでない係数およびある数のゼロ値の係数を有し、前記シフトと加算の第1の組合せは、第1の量子化パラメータに基づいている、生成することと、
    前記量子化近似ブロックの絶対値レベルの和を計算することと、
    前記ゼロでない係数の数の3倍に前記ゼロ値の係数の数を足し、さらに前記絶対値レベルの和を足して、合計することによって、前記量子化ブロックの前記レート信号を計算することと
    を含む、前記レート信号を決定することと、
    ひずみ信号を生成することであって、
    前記整数個のブロックの前記変換のシフトと加算の第2の組合せによって、逆量子化近似ブロックを生成することであって、前記シフトと加算の第2の組合せは、第2の量子化パラメータに基づいている、生成することと、
    前記量子化近似ブロックと前記逆量子化近似ブロックとの間の2乗誤差を決定することであって、前記ひずみ信号は前記2乗誤差に等しい、決定することと
    を含む、前記ひずみ信号を生成することと、
    前記レート信号および前記ひずみ信号に基づいてコストを計算することと、
    前記コストから動きベクトルを決定することであって、前記動きベクトルは前記予測マクロブロック・パーティションを指定する、動きベクトルを決定することと
    を含む、方法。
  2. 前記整数個のブロックの前記ブロックは、4ピクセル×4ピクセルの次元を持っている、請求項1に記載の方法。
  3. メモリ内のルックアップテーブルに前記2乗誤差の可能な値を格納すること、
    をさらに含む、請求項に記載の方法。
  4. 前記コストを計算することは、
    ラグランジュの乗数で乗算された前記レート信号と前記ひずみ信号の合計により、ラグランジュのコストを計算することと、
    前記整数個のブロックの各々に対して前記ラグランジュのコストの合計を行なうことであって、前記コストは前記合計と等しい、合計を行なうことと
    を含む、請求項1に記載の方法。
  5. 前記整数個のブロックの前記ブロックは、4ピクセル×4ピクセルの次元を持っている、請求項に記載の方法。
  6. 前記動きベクトルを決定することは、
    最低の値を求めて前記コストを走査することであって、前記動きベクトルは前記最低の値に対応するベクトルとして定義される、走査すること
    を含む、請求項1に記載の方法。
  7. 前記ビデオエンコーダは、H.264/AVC符号器である、請求項1に記載の方法。
  8. ビデオエンコーダにおける動きの推定と補償において、複数個の候補マクロブロック・パーティションから予測マクロブロック・パーティションを選択する方法であって、
    前記候補マクロブロック・パーティションの各々について、レート信号を決定することであって、
    候補マクロブロック・パーティションごとに、それぞれの候補マクロブロック・パーティションから現在フレームのマクロブロックを減算することにより、残余誤差信号を生成することと、
    候補マクロブロック・パーティションごとに、それぞれの残余誤差信号を整数個のブロックに分割することと、
    候補マクロブロック・パーティションごとに、整数個のブロックそれぞれを、空間領域から周波数領域に変換して、複数個の変換を作成することと、
    変換ごとに、それぞれの変換のシフトと加算の第1の組合せによって、量子化近似ブロックを生成することであって、前記量子化近似ブロックは、ある数のゼロでない係数およびある数のゼロ値の係数を有し、前記シフトと加算の第1の組合せは、第1の量子化パラメータに基づいている、生成することと、
    変換ごとに、前記量子化近似ブロックの絶対値レベルのを計算することと、
    変換ごとに、ゼロでない係数のそれぞれの数の3倍に、ゼロ値係数のそれぞれの数を足し、さらに、絶対値レベルのそれぞれの和を足して、合計することによって、前記レート信号を計算することと
    を含む、前記レート信号を決定することと、
    前記候補マクロブロック・パーティションの各々について、ひずみ信号を生成することであって、
    変換ごとに、それぞれの変換のシフトと加算の第2の組合せによって逆量子化近似ブロックを生成することであって、前記シフトと加算の第2の組合せは、第2の量子化パラメータに基づいている、生成することと、
    変換ごとに、変換ごとのそれぞれの量子化の間の2乗誤差を決定し、逆量子化近似ブロックを生成し、前記ひずみ信号は前記2乗誤差に等しい、決定することと
    を含む、前記ひずみ信号を生成することと、
    複数個のコストを生成するために、それぞれのレート信号、および、それぞれのひずみ信号に基づいて前記候補マクロブロック・パーティションの各々についてコストを計算することと、
    前記コストから動きベクトルを決定することであって、前記動きベクトルは前記予測マクロブロック・パーティションを指定する、動きベクトルを決定することと
    を含む方法。
  9. 前記整数個のブロックの前記ブロックは、4ピクセル×4ピクセルの次元を持っている、請求項に記載の方法。
  10. メモリ内のルックアップテーブルに前記2乗誤差の可能な値を格納すること、をさらに含む請求項に記載の方法。
  11. 前記候補マクロブロック・パーティションの各々は、整数個のブロックを有し、前記ブロックの各々は、それぞれのレート信号およびそれぞれのひずみ信号を持ち、また、前記コストを計算することは、
    ブロックごとに、ラグランジュの乗数で乗算されたそれぞれのレート信号とそれぞれのひずみ信号との合計により、ラグランジュのコストを計算することと、
    候補マクロブロック・パーティションごとに、それぞれのブロックのそれぞれのラグランジュのコストを合計することにより前記コストを生成することと、
    を含む、請求項10に記載の方法。
  12. 前記ブロックは、4ピクセル×4ピクセルの次元を持っている、請求項11に記載の方法。
  13. 前記動きベクトルを決定することは、
    最低の値を求めて前記コストを走査することであって、前記動きベクトルは、前記最低の値の候補マクロブロック・パーティションのそれぞれに対応する、走査すること
    を含む請求項に記載の方法。
  14. 前記ビデオエンコーダは、H.264/AVC符号器である、請求項に記載の方法。
  15. 現在フレームのマクロブロックおよびM×Nサーチエリアを受信し、かつ残余誤差信号を生成するための動き補償ブロックであって、Mは前記サーチエリアの第1の次元を表し、Nは前記サーチエリアの第2の次元を表す、動き補償ブロックと、
    前記動き補償ブロックに結合され、前記残余誤差信号を受信し、そして、前記残余誤差信号を周波数領域の残余誤差信号に変換するための順方向変換ブロックと、
    前記順方向変換ブロックに結合され、前記周波数領域の残余誤差信号を受信し、かつ、第1の量子化パラメータに基づいて近似された量子化信号を生成し、そして、第2の量子化パラメータに基づいて近似された逆量子化信号を生成するための量子化近似ブロックと、
    前記量子化近似ブロックに結合され、前記近似された量子化信号を受信し、かつ前記予測マクロブロック・パーティションを選択するのに使用されるレート信号を生成するためのエントロピー符号化近似ブロックと、
    前記量子化近似ブロックに結合され、前記近似された量子化信号および前記近似された逆量子化信号を受信し、前記予測マクロブロック・パーティションを選択するのに使用されるひずみ信号を生成するための、2乗差分の和のブロック
    備え、
    前記M×Nサーチエリアは複数個の候補マクロブロック・パーティションを含み、
    前記近似された量子化信号は複数個の近似された量子化サブ信号を含み、
    前記近似された量子化サブ信号の各々は、前記候補マクロブロック・パーティションのうちの1つに対応し、ある数のゼロでない係数と、ある数のゼロ値の係数を有し、
    前記エントロピー符号化近似ブロックは、近似された量子化サブ信号のそれぞれの絶対値レベルの和を計算し、絶対値レベルのそれぞれの和にゼロでない係数のそれぞれの数の3倍を足し、さらにゼロ値の係数のそれぞれの数を足して、合計することによって、近似された量子化サブ信号の各々についてレート・サブ信号を生成し、第1の複数の近似された量子化サブ信号を生成し、前記近似された量子化信号、前記第1の複数の近似された量子化サブ信号を含前記近似された逆量子化信号は、複数の近似された逆量子化サブ信号を含み、前記近似された逆量子化サブ信号の各々は、前記候補マクロブロック・パーティションのうちの1つに対応し、前記2乗差分の和のブロックは、複数のひずみサブ信号を生成するために前記近似された量子化サブ信号と前記近似された逆量子化サブ信号との間の2乗誤差を決定することによって各候補マクロブロック・パーティションについてのひずみサブ信号を生成し、前記ひずみ信号は、前記複数のひずみサブ信号を含む、
    ビデオエンコーダにおける動きの推定と補償において予測マクロブロック・パーティションを選択するための装置。
  16. 前記エントロピー符号化近似ブロックおよび前記2乗差分の和のブロックに結合され、前記レート信号と前記ひずみ信号を受信し、そして動きベクトルを生成するコスト決定ブロック
    をさらに含む、請求項15に記載の装置。
  17. 前記動き補償ブロックは、それぞれの候補マクロブロック・パーティションから前記マクロブロックを減算することにより1つの候補マクロブロック・パーティションごとに前記残余誤差信号を生成する、請求項15に記載の装置。
  18. 前記周波数領域の残余誤差信号は、複数個の周波数領域残余誤差サブ信号を含み、
    前記周波数領域の残余誤差サブ信号の各々は、前記候補マクロブロック・パーティションのうちの1つに対応し、
    前記量子化近似ブロックは、前記第1の量子化パラメータに基づい、それぞれの周波数領域の残余誤差サブ信号のシフトと加算の組合せによって、各周波数領域残余誤差サブ信号について近似された量子化サブ信号を生成し、第2の複数個の近似された量子化サブ信号を生成し、
    前記近似された量子化信号は、前記第2の複数個の近似された量子化サブ信号を含む、
    請求項15に記載の装置。
  19. 前記周波数領域の残余誤差信号は複数個の周波数領域の残余誤差サブ信号を含み、
    前記周波数領域の残余誤差サブ信号のそれぞれは前記候補マクロブロック・パーティションのうちの1つに対応し、
    前記量子化近似ブロックは、前記第2の量子化パラメータに基づいた、それぞれの周波数領域の残余誤差サブ信号のシフトと加算の組合せによって、各周波数領域の残余誤差サブ信号について近似された逆量子化サブ信号を生成して、複数個の近似された逆量子化サブ信号を生成し、
    前記近似された逆量子化信号は前記複数個の近似された逆量子化サブ信号を含む、
    請求項15に記載の装置。
  20. ルックアップテーブルに前記2乗誤差の可能な値を格納するために、前記2乗差分の和のブロックに結合されたメモリ、をさらに含む、請求項15に記載の装置。
  21. 前記レート信号は複数のレート・サブ信号を含み、
    前記レート・サブ信号の各々は前記候補マクロブロック・パーティションのうちの1つに対応し、
    前記ひずみ信号は複数のひずみサブ信号を含み、
    前記ひずみサブ信号の各々は前記候補マクロブロック・パーティションのうちの1つに対応し、
    前記コスト決定ブロックは、ラグランジュの乗数で乗算されたそれぞれのレート信号と、それぞれのひずみ信号を合計することによって、候補マクロブロック・パーティションの各々のラグランジュのコストを計算して、前記動きベクトルを生成し、
    さらに、複数のラグランジュのコストを生成し、
    そして、
    最低の値を求めて前記ラグランジュのコストを走査し、
    前記動きベクトルは、前記の最低の値の候補マクロブロック・パーティションのそれぞれに対応するベクトルとして定義される、
    請求項16に記載の装置。
  22. 前記ビデオエンコーダが、H.264/AVC符号器である、請求項15に記載の装置。
JP2008554510A 2006-02-09 2007-02-08 ビデオ符号化 Expired - Fee Related JP5102228B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/351,911 2006-02-09
US11/351,911 US8208548B2 (en) 2006-02-09 2006-02-09 Video encoding
PCT/US2007/061880 WO2007092942A2 (en) 2006-02-09 2007-02-08 Video encoding

Publications (2)

Publication Number Publication Date
JP2009526499A JP2009526499A (ja) 2009-07-16
JP5102228B2 true JP5102228B2 (ja) 2012-12-19

Family

ID=38308628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008554510A Expired - Fee Related JP5102228B2 (ja) 2006-02-09 2007-02-08 ビデオ符号化

Country Status (6)

Country Link
US (1) US8208548B2 (ja)
EP (1) EP1982531A2 (ja)
JP (1) JP5102228B2 (ja)
KR (1) KR101058448B1 (ja)
CN (1) CN101375606B (ja)
WO (1) WO2007092942A2 (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060120612A1 (en) * 2004-12-08 2006-06-08 Sharath Manjunath Motion estimation techniques for video encoding
US8761259B2 (en) * 2005-09-22 2014-06-24 Qualcomm Incorporated Multi-dimensional neighboring block prediction for video encoding
US8213509B2 (en) * 2006-10-06 2012-07-03 Calos Fund Limited Liability Company Video coding on parallel processing systems
FR2907989B1 (fr) * 2006-10-27 2009-01-16 Actimagine Sarl Procede et dispositif d'optimisation de la compression d'un flux video
US20080126278A1 (en) * 2006-11-29 2008-05-29 Alexander Bronstein Parallel processing motion estimation for H.264 video codec
US8929448B2 (en) * 2006-12-22 2015-01-06 Sony Corporation Inter sub-mode decision process in a transcoding operation
US8019804B2 (en) * 2007-03-26 2011-09-13 City University Of Hong Kong Method and apparatus for calculating an SSD and encoding a video signal
US8401073B2 (en) * 2007-03-28 2013-03-19 Panasonic Corporation Inverse quantization circuit, inverse quantization method and image reproducing apparatus
US8467451B2 (en) * 2007-11-07 2013-06-18 Industrial Technology Research Institute Methods for selecting a prediction mode
US20090168871A1 (en) * 2007-12-31 2009-07-02 Ning Lu Video motion estimation
US8798137B2 (en) * 2008-02-29 2014-08-05 City University Of Hong Kong Bit rate estimation in data or video compression
WO2010041858A2 (en) * 2008-10-06 2010-04-15 Lg Electronics Inc. A method and an apparatus for decoding a video signal
US9113168B2 (en) * 2009-05-12 2015-08-18 Lg Electronics Inc. Method and apparatus of processing a video signal
US8654859B1 (en) * 2009-12-17 2014-02-18 Ambarella, Inc. Low cost rate-distortion computations for video compression
US9210442B2 (en) 2011-01-12 2015-12-08 Google Technology Holdings LLC Efficient transform unit representation
US9380319B2 (en) 2011-02-04 2016-06-28 Google Technology Holdings LLC Implicit transform unit representation
US11245912B2 (en) * 2011-07-12 2022-02-08 Texas Instruments Incorporated Fast motion estimation for hierarchical coding structures
US9491475B2 (en) 2012-03-29 2016-11-08 Magnum Semiconductor, Inc. Apparatuses and methods for providing quantized coefficients for video encoding
US10230956B2 (en) 2012-09-26 2019-03-12 Integrated Device Technology, Inc. Apparatuses and methods for optimizing rate-distortion of syntax elements
US10277907B2 (en) 2012-10-25 2019-04-30 Integrated Device Technology, Inc. Rate-distortion optimizers and optimization techniques including joint optimization of multiple color components
US9544597B1 (en) 2013-02-11 2017-01-10 Google Inc. Hybrid transform in video encoding and decoding
US9967559B1 (en) 2013-02-11 2018-05-08 Google Llc Motion vector dependent spatial transformation in video coding
US9392286B2 (en) * 2013-03-15 2016-07-12 Magnum Semiconductor, Inc. Apparatuses and methods for providing quantized coefficients for video encoding
US9674530B1 (en) 2013-04-30 2017-06-06 Google Inc. Hybrid transforms in video coding
KR102114252B1 (ko) 2013-07-05 2020-05-22 삼성전자 주식회사 영상을 부호화하기 위한 영상 예측 모드 결정 방법 및 장치
US20150085922A1 (en) * 2013-09-25 2015-03-26 Magnum Semiconductor, Inc. Apparatuses and methods for reducing rate and distortion costs during encoding by modulating a lagrangian parameter
US9794575B2 (en) 2013-12-18 2017-10-17 Magnum Semiconductor, Inc. Apparatuses and methods for optimizing rate-distortion costs in video encoding
US20150189269A1 (en) * 2013-12-30 2015-07-02 Google Inc. Recursive block partitioning
US9565451B1 (en) 2014-10-31 2017-02-07 Google Inc. Prediction dependent transform coding
US9769499B2 (en) 2015-08-11 2017-09-19 Google Inc. Super-transform video coding
US10277905B2 (en) 2015-09-14 2019-04-30 Google Llc Transform selection for non-baseband signal coding
US9807423B1 (en) 2015-11-24 2017-10-31 Google Inc. Hybrid transform scheme for video coding
US11122297B2 (en) 2019-05-03 2021-09-14 Google Llc Using border-aligned block functions for image compression
CN113489981B (zh) * 2021-07-06 2023-02-03 电子科技大学 一种考虑时域率失真优化的零延迟码率控制方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6968008B1 (en) 1999-07-27 2005-11-22 Sharp Laboratories Of America, Inc. Methods for motion estimation with adaptive motion accuracy
JP3670554B2 (ja) 2000-04-25 2005-07-13 日本電信電話株式会社 画像信号符号化装置/復号装置,画像信号符号化方法/復号方法および画像信号符号化/復号プログラム記録媒体
JP2003230149A (ja) 2002-02-05 2003-08-15 Mitsubishi Electric Corp 高圧縮符号化装置
KR20050061762A (ko) 2003-12-18 2005-06-23 학교법인 대양학원 부호화 모드 결정방법, 움직임 추정방법 및 부호화 장치
JP4577048B2 (ja) 2004-03-11 2010-11-10 パナソニック株式会社 画像符号化方法、画像符号化装置および画像符号化プログラム
KR20050112587A (ko) 2004-05-27 2005-12-01 학교법인 대양학원 동영상 인코딩, 디코딩 장치 및 그 방법
JP2005354307A (ja) 2004-06-09 2005-12-22 Toshiba Corp 逆量子化器及びこれを用いた画像復号化装置
JP2006270435A (ja) * 2005-03-23 2006-10-05 Toshiba Corp 動画像符号化装置
US8050331B2 (en) * 2005-05-20 2011-11-01 Ntt Docomo, Inc. Method and apparatus for noise filtering in video coding
EP1727370A1 (en) 2005-05-25 2006-11-29 Thomson Licensing Rate-distortion based video coding mode selection foreseeing the esitmation of bit rate and distortion using a simplified transform on low activity prediction residuals
CN100338957C (zh) * 2005-06-20 2007-09-19 浙江大学 一种复杂度可分级的模式选择方法
US7961783B2 (en) * 2005-07-07 2011-06-14 Mediatek Incorporation Methods and systems for rate control in video encoder

Also Published As

Publication number Publication date
WO2007092942A2 (en) 2007-08-16
KR101058448B1 (ko) 2011-08-24
EP1982531A2 (en) 2008-10-22
JP2009526499A (ja) 2009-07-16
WO2007092942A3 (en) 2007-10-04
CN101375606B (zh) 2012-04-11
US20070183500A1 (en) 2007-08-09
KR20080102167A (ko) 2008-11-24
CN101375606A (zh) 2009-02-25
US8208548B2 (en) 2012-06-26

Similar Documents

Publication Publication Date Title
JP5102228B2 (ja) ビデオ符号化
EP2206353B1 (en) Method for selecting a coding mode and corresponding system and computer-readable medium
EP1675403B1 (en) Moving-picture compression encoding method, apparatus and program
EP2036358A1 (en) Image encoding/decoding method and apparatus
EP3893510B1 (en) Video image encoding and decoding method and apparatus
KR101700410B1 (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
CN113170176B (zh) 视频编码器、视频解码器及相应方法
KR101562343B1 (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
KR100240620B1 (ko) 양방향의 반화소 움직임 추정을 위한 대칭 탐색 윈도우를 형성하는 방법 및 장치
TWI825751B (zh) 視訊編碼方法和裝置
KR102111437B1 (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
KR101810198B1 (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
KR101700411B1 (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
JP2003116140A (ja) 動画像可逆符号化方法とその復号化方法、及びそれらの装置
KR20190004247A (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
CN116320417A (zh) 视频编码方法和装置
KR101576983B1 (ko) 동영상 인코딩 및 디코딩 방법과 이를 구현하는 장치
KR20170140805A (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
Murmu Fast motion estimation algorithm in H. 264 standard

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110712

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20111011

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20111018

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20111114

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20111121

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20111212

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20111219

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120207

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120507

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120514

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120607

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120614

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120709

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120717

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120807

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120927

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees