JP4114534B2 - 画像符号化装置及び方法 - Google Patents
画像符号化装置及び方法 Download PDFInfo
- Publication number
- JP4114534B2 JP4114534B2 JP2003127409A JP2003127409A JP4114534B2 JP 4114534 B2 JP4114534 B2 JP 4114534B2 JP 2003127409 A JP2003127409 A JP 2003127409A JP 2003127409 A JP2003127409 A JP 2003127409A JP 4114534 B2 JP4114534 B2 JP 4114534B2
- Authority
- JP
- Japan
- Prior art keywords
- code
- code amount
- image
- resolution level
- subbands
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
- H04N19/64—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission
- H04N19/647—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission using significance based coding, e.g. Embedded Zerotrees of Wavelets [EZW] or Set Partitioning in Hierarchical Trees [SPIHT]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/115—Selection of the code volume for a coding unit prior to coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【発明の属する技術分野】
本発明は、例えばJPEG−2000方式に従って入力画像を圧縮する画像符号化装置及びその方法に関する。
【0002】
【従来の技術】
従来の代表的な画像圧縮方式として、ISO(International Standards Organization)によって標準化されたJPEG(Joint Photographic Experts Group)方式がある。これは、離散コサイン変換(Descrete Cosine Transform;DCT)を用い、比較的高いビットが割り当てられる場合には、良好な符号化画像及び復号画像を供することが知られている。しかし、ある程度以上に符号化ビット数を少なくすると、DCT特有のブロック歪みが顕著になり、主観的に劣化が目立つようになる。
【0003】
一方、近年では画像をフィルタバンクと呼ばれるハイパス・フィルタとローパス・フィルタとを組み合わせたフィルタによって複数の帯域に分割し、各帯域毎に符号化を行う方式の研究が盛んになっている。その中でも、ウェーブレット変換符号化は、DCTのように高圧縮でブロック歪みが顕著になるという欠点がないことから、DCTに代わる新たな技術として有力視されている。
【0004】
例えば2001年1月に国際標準化が完了したJPEG−2000は、このウェーブレット変換に高能率なエントロピー符号化(ビットプレーン単位のビット・モデリングと算術符号化)を組み合わせた方式を採用しており、JPEGに比べて符号化効率の大きな改善を実現している(例えば下記特許文献1参照)。
【0005】
これらの国際規格ではデコーダ側の規格のみが定められており、エンコーダ側は自由に設計することができる。その反面、目標の圧縮率を実現するためのレート制御の効果的な手段等についての規格が存在しないため、ノウハウの確立が何よりも重要になる。
【0006】
【特許文献1】
特開2002−165098号公報
【0007】
【発明が解決しようとする課題】
ところで、JPEG−2000符号化器で、例えば2000×1000の解像度の画像を符号化する場合、画像全体の歪みが最小になるように符号量制御を行う手法が一般的である。一方、この4分の1の解像度である1000×500の解像度の画像を同様に符号化する場合、やはり画像全体の歪みが最小になるように符号量制御を行う。これはRD(Rate−Distortion)特性を利用したレート制御手法であり、汎用性があるものの非常に計算負荷が高いという問題があった。また、数値上で最小歪みを与える手法が、人間の視覚特性上最高の画質を与える保証がないという問題があった。
【0008】
また、符号量制御の応用例として、例えば2000×1000の画像を1000Kbyteのサイズに圧縮する際、ウェーブレット変換の特徴を利用して、2000×1000の低域成分である1000×500の画像を同時に500Kbyteに圧縮することが可能である。しかしながら、このように低域成分である1000×500の画像を500Kbyteに圧縮した画像は、元々が1000×500の原画像を500Kbyteに圧縮した場合と比較して、一般的に画質が悪くなるという問題があった。
【0009】
本発明は、このような従来の実情に鑑みて提案されたものであり、原画像(上述の例では2000×1000の画像に相当)の一部である所定の解像度レベルの画像(上述の例では1000×500の画像に相当)を圧縮した圧縮画像の画質を、元々その解像度の圧縮画像の画質に近いものに制御し、且つ原画像を圧縮した圧縮画像の画質も高画質を維持可能とする画像符号化装置及びその方法を提供することを目的とする。
【0010】
【課題を解決するための手段】
上述した目的を達成するために、本発明に係る画像符号化装置及びその方法は、入力画像に対してフィルタリング処理を施すことにより、解像度レベルの異なる複数のサブバンドを生成し、上記フィルタリング処理後の上記入力画像の各係数を上記サブバンド毎に設定された量子化ステップサイズで除算して量子化し、上記サブバンドを分割して所定の大きさのコードブロックを生成し、上記コードブロック毎に最上位ビットから最下位ビットに至るビットプレーンを生成し、上記ビットプレーン毎に生成されたコーディングパスを算術符号化し、生成された算術符号に基づいて、上記フィルタリング処理によって生成された複数のサブバンドのうち低域の所定の解像度レベルに属する全てのコードブロックに割り当てる符号量が第1の符号量以下となるように第1の符号量制御を行い、上記生成された算術符号に基づいて、上記第1の符号量制御の後に上記所定の解像度レベル以外の解像度レベルに属する全てのコードブロックに割り当てられる符号量が第2の符号量以下となるように第2の符号量制御を行い、上記第1、第2の符号量制御を行って得られた算術符号からパケットを構成して符号化コードストリームを生成するものであり、上記量子化の際に、上記所定の解像度レベルに属するサブバンドに対して設定する量子化ステップサイズを、上記所定の解像度レベルを原画像として量子化する場合に各サブバンドに対して設定する量子化ステップサイズと一致させるようにしたものである。
【0011】
このような画像符号化装置及びその方法では、量子化の際に、所定の解像度レベルに属するサブバンドに対して設定する量子化ステップサイズを、この所定の解像度レベルを原画像として量子化する場合に各サブバンドに対して設定する量子化ステップサイズと一致させる。
【0012】
【発明の実施の形態】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
【0013】
先ず本実施の形態における画像符号化装置の概略構成を図1に示す。図1に示すように、画像符号化装置1は、ウェーブレット変換部10と、量子化部11と、コードブロック化部12と、ビットプレーン分解部13と、ビットモデリング部14と、算術符号化部15と、低域レート制御部17と、高域レート制御部18と、パケット生成部19とから構成されている。ここで、ビットモデリング部14と算術符号化部15とにより、EBCOT(Embedded Coding with Optimized Truncation)部16が構成される。
【0014】
ウェーブレット変換部10は、通常、低域フィルタと高域フィルタとから構成されるフィルタバンクによって実現される。なお、デジタルフィルタは、通常複数タップ長のインパルス応答(フィルタ係数)を持っているため、フィルタリングが行えるだけの入力画像を予めバッファリングしておく必要があるが、簡単のため、図1では図示を省略する。
【0015】
ウェーブレット変換部10は、フィルタリングに必要な最低限の画像信号D10を入力し、ウェーブレット変換を行うフィルタリング処理を行ってウェーブレット変換係数D11を生成する。
【0016】
このウェーブレット変換では、通常図2に示すように低域成分が繰り返し変換されるが、これは画像のエネルギの多くが低域成分に集中しているためである。このことは、図3(A)に示す分割レベル=1から図3(B)に示す分割レベル=3のように、分割レベルを進めていくに従って、同図のようにサブバンドが形成されていくことからも分かる。ここで、図2におけるウェーブレット変換のレベル数は2であり、この結果計7個のサブバンドが生成されている。すなわち、1回目のフィルタリング処理によって水平方向のサイズX_SIZE及び垂直方向のサイズY_SIZEがそれぞれ1/2に分割され、LL1,LH1,HL1,HH1の4つのサブバンドが生成される。そして2回目のフィルタリング処理によってLL1がさらに分割されて、LL2,LH2,HL2,HH2の4つのサブバンドが生成される。なお、図2においてL,Hはそれぞれ低域,高域を表し、L,Hの後の数字はウェーブレット変換分割数を表す。すなわち、例えばLH1は、水平方向が低域で垂直方向が高域であるウェーブレット変換分割数=1のサブバンドを表す。
【0017】
量子化部11は、ウェーブレット変換部10から供給されたウェーブレット変換係数D11に対して非可逆圧縮を施す。量子化手段としては、ウェーブレット変換係数D11を量子化ステップサイズで除算するスカラ量子化を用いるのが一般的である。ここで、JPEG−2000の規格上、上述の非可逆圧縮を行う場合で、非可逆の9×7ウェーブレット変換フィルタを用いる場合には、自動的にスカラ量子化を併用することが決められている。一方、可逆の5×3ウェーブレット変換フィルタを用いる場合には量子化を行わず、後段の低域レート制御部17及び高域レート制御部18において符号量制御が行われる。したがって、図1の量子化部11が動作するのは、実際には非可逆の9×7ウェーブレット変換フィルタを用いた場合である。以下、この非可逆の9×7ウェーブレット変換フィルタを用いる場合を想定して説明を進める。
【0018】
ここで、ウェーブレット変換により生成されたサブバンドのうち、ウェーブレット変換分割数が大きい、すなわち解像度レベルが小さい低域ほど画質に与える影響が大きく、ウェーブレット変換分割数が小さい、すなわち解像度レベルが大きい高域ほど画質に与える影響が小さい。したがって、この性質を利用して、低域の量子化ステップサイズを小さくして量子化を細かく行うと共に、高域の量子化ステップサイズを大きくして量子化を粗く行うことにより、視覚特性を利用した符号化を実現することができる。
【0019】
一例として図4を用いた場合、ウェーブレット変換分割数とサブバンド毎の量子化ステップサイズQとの関係は、例えば以下の式(1)のように関係付けることができる。
QLL5<QHL5=QLH5<QHH5<QHL4=QLH4
<QHH4<QHL3=QLH3<QHH3<QHL2=QLH2
<QHH2<QHL1=QLH1<QHH1 ・・・(1)
【0020】
ここで図4(A)は、1000×500の解像度を持つ画像を符号化する場合におけるサブバンド毎に割り当てられる量子化ステップサイズQを示し、図4(B)は、2000×1000の解像度を持つ画像を符号化する場合におけるサブバンド毎に割り当てられる量子化ステップサイズQを示している。
【0021】
図4から分かる通り、同図(A)に示す1000×500の原画像を4回ウェーブレット変換して生成された全てのサブバンド(図中点領域)と、同図(B)に示す2000×1000の原画像を5回ウェーブレット変換して生成されたサブバンドのうち低域の1000×500のサブバンド(図中点領域)とでは、前者の方がウェーブレット変換分割数が1回少ないため、量子化ステップサイズも後者と異なる値になる。すなわち、図4(B)に示す低域の1000×500のサブバンドでは、図4(A)に示す1000×500の画像をそのまま符号化する場合と比較して、例えばQHH1の代わりにQHH2が割り当てられる。
【0022】
この2000×1000の画像を1000Kbyteのサイズに圧縮する際に、ウェーブレット変換の特徴を利用して、2000×1000の低域成分である1000×500の画像を同時に500Kbyteに圧縮しようとした場合、上述した式(1)よりQHH2<QHH1であるため、高域のサブバンドが小さい量子化ステップサイズによって画質重視されることになる。すなわち、低域成分に割り当てるビット量が減ることにより、フリッカノイズと呼ばれる視覚的な歪みが検知されるようになり、元々が1000×500の原画像よりも画質が悪くなるという問題が発生する。
【0023】
そこで、本実施の形態における量子化部11は、図5に示すように、所定の解像度レベルに属する低域のサブバンド、例えば2000×1000の原画像のうち低域の1000×500のサブバンド毎の量子化ステップサイズを、1000×500の原画像をそのまま符号化する場合のサブバンド毎の量子化ステップサイズと一致させるように量子化制御を行う。
【0024】
図1に戻って、コードブロック化部12は、量子化部11で生成されたサブバンド毎の量子化係数D12を、JPEG−2000の符号化単位であるコードブロック単位に分割する。すなわち図6に示すように、例えば64×64程度のサイズのコードブロックが分割後の全てのサブバンド中に生成され、後段の符号化処理はこのコードブロック毎に行われる。なお、JPEG−2000の規定では、コードブロックのサイズは水平方向、垂直方向共に2の冪乗で表され、通常は32×32、又は64×64が使用されることが多い。コードブロック化部12は、コードブロック毎の量子化係数D13をビットプレーン分解部13部に供給する。
【0025】
ビットプレーン分解部13は、コードブロック化部12から供給されたコードブロック毎の量子化係数D13をビットプレーンに展開し、ビットプレーン毎の量子化係数D14をビットモデリング部14に供給する。このビットプレーンの概念について図7を用いて説明する。図7(A)は、縦4個、横4個の計16個の係数からなる量子化係数を仮定したものである。この16個の係数のうち絶対値が最大のものは13であり、2進数表現では1101となる。したがって、係数の絶対値のビットプレーンは、図7(B)に示すような4つのビットプレーンから構成される。なお、各ビットプレーンの要素は、全て0又は1の数を取る。一方、量子化係数の符号は、−6が唯一負の値であり、それ以外は0又は正の値である。したがって、符号のビットプレーンは、図7(C)に示すようになる。
【0026】
ビットモデリング部14は、ビットプレーン毎の量子化係数D14に対して、以下のようにビットプレーン単位でビットモデリングを行い、算術符号化部15にコンテキストD15を供給する。ここで、本実施の形態では、特にJPEG−2000規格で定められたEBCOTと呼ばれるエントロピー符号化を行う。このEBCOTでは、コードブロック毎にそのコードブロック内の量子化係数の統計量を測定しながらエントロピー符号化を行う。なお、EBCOTについての詳細は、例えば、文献「IS0/IEC 15444-1, Information technology-JPEG 2000, Part 1:Core coding system」等に記載されている。
【0027】
各コードブロックは、最上位ビット(MSB)から最下位ビット(LSB)方向にビットプレーン毎に独立して符号化される。量子化係数は、nビットの符号付き2進数で表されており、bit0からbit(n−2)がLSBからMSBまでのそれぞれのビットを表す。なお、残りの1ビットは符号である。符号ブロックの符号化は、MSB側のビットプレーンから順番に、以下の(a)〜(c)に示す3種類のコーディングパスによって行われる。
(a) Significance Propagation Pass
(b) Magnitude Refinement Pass
(c) Clean up Pass
【0028】
3つのコーディングパスの用いられる順序を図8に示す。図8に示すように、先ずビットプレーン(n−2)(MSB)がClean up Pass(以下、適宜「CUパス」という。)によって符号化される。続いて、順次LSB側に向かい、各ビットプレーンが、Significance Propagation Pass(以下、適宜「SPパス」という。)、Magnitude Refinement Pass(以下、適宜「MRパス」という。)、CUパスの順序で用いられて符号化される。
【0029】
但し、実際にはMSB側から何番目のビットプレーンで初めて1が出てくるかをヘッダに書き、オール0のビットプレーンは符号化しない。この順序で3種類のコーディングパスを繰返し用いて符号化し、任意のビットプレーンの任意の符号化パスまでで符号化を打ち切ることにより、符号量と画質のトレードオフを取る、すなわちレート制御を行うことができる。
【0030】
ここで、係数の走査(スキャニング)について図9を用いて説明する。コードブロックは、高さ4個の係数毎にストライプ(stripe)に分けられる。ストライプの幅は、コードブロックの幅に等しい。スキャン順とは1個のコードブロック内の全ての係数を辿る順番であり、コードブロック中では上のストライプから下のストライプへの順序、各ストライプ中では左の列から右の列への順序、各列中では上から下への順序でスキャニングされる。なお、各コーディングパスにおいてコードブロック中の全ての係数がこのスキャン順で処理される。
【0031】
以下、上述した3つのコーディングパスについて説明する。
(a) Significance Propagation Pass
あるビットプレーンを符号化するSPパスでは、8近傍の少なくとも1つの係数が有意(significant)であるようなnon-significant係数のビットプレーンの値が算術符号化される。その符号化したビットプレーンの値が1である場合には、符号の正負が続けて算術符号化される。
ここでsignificanceとは、各係数に対して符号化器が持つ状態である。significanceの初期値は、non-significantを表す0であり、その係数で1が符号化されたときにsignificantを表す1に変化し、以降常に1であり続ける。したがって、significanceとは、有効桁の情報を既に符号化したか否かを示すフラグとも言える。
【0032】
(b) Magnitude Refinement Pass
ビットプレーンを符号化するMRパスでは、ビットプレーンを符号化するSPパスで符号化していないsignificantな係数のビットプレーンの値が算術符号化される。
【0033】
(c) Clean up Pass
ビットプレーンを符号化するCUパスでは、ビットプレーンを符号化するSPパスで符号化していないnon-significantな係数のビットプレーンの値が算術符号化される。その符号化したビットプレーンの値が1である場合には、符号の正負が続けて算術符号化される。
【0034】
なお、以上の3つのコーディングパスでの算術符号化では、ケースに応じてZC(Zero Coding)、RLC(Run-Length Coding)、SC(Sign Coding)、MR(Magnitude Refinement)が使い分けられて係数のコンテキストが選択される。そして、MQ符号化と呼ばれる算術符号によって選択されたコンテキストが符号化される。このMQ符号化は、JBIG2で規定された学習型の2値算術符号である。MQ符号化については、例えば、文献「ISO/IEC FDIS 14492, “Lossy/Lossless Coding of Bi-level Images”, March 2000」等に記載されている。JPEG−2000では、全ての符号化パスで合計19種類のコンテキストがある。
【0035】
以上のようにしてビットモデリング部14は、ビットプレーン毎の量子化係数D14を3つのコーディングパスに分解し、コーディングパス毎に係数のコンテキストD15を生成する。そして、算術符号化部15は、このコンテキストD15に対して算術符号化を施し、上述した量子化部11で量子化ステップサイズを変更した所定の低域のサブバンドにおける算術符号D16を低域レート制御部17に供給すると共に、それ以外の高域のサブバンドにおける算術符号D17を高域レート制御部18に供給する。
【0036】
低域レート制御部17は、少なくとも一部の符号化パスの処理を行った後で、算術符号化部15から供給された算術符号D16、すなわち図10に示す解像度レベル(Resolution Level;RL)が0〜4である低域のサブバンド(RL0〜RL4)内に存在している全てのコードブロックの算術符号D16の符号量を後述する所定の順序で加算し、所定の目標符号量に達した時点でそれより後の算術符号D16を切り捨てる。このように、所定の目標符号量を超える直前で切り捨てることにより、確実に目標符号量以内に収めることができる。低域レート制御部17は、この符号量制御完了後の算術符号D18をパケット生成部19に供給すると共に、その符号量D19を高域レート制御部18に供給する。
【0037】
高域レート制御部18は、算術符号化部15から供給された算術符号D17、すなわち図10に示す解像度レベルが5である高域のサブバンド(RL5)内に存在している全てのコードブロックの算術符号D17の符号量を後述する所定の順序で加算し、目標符号量以内に収まるように制御する。高域レート制御部18は、この符号量制御完了後の算術符号D20をパケット生成部19に供給する。なお、この高域レート制御部18における目標符号量は、最終的な全サブバンドにおける目標符号量から低域サブバンドにおける符号量D18を減じた値とする。
【0038】
この低域レート制御部17及び高域レート制御部18における処理を図11のフローチャートを用いて説明する。先ずステップS1において、例えば図10の低域サブバンド(RL0〜RL4)の目標符号量をTlowと設定し、全サブバンド(RL0〜RL5)の目標符号量をThighと設定する。
【0039】
次にステップS2において、低域サブバンド(RL0〜RL4)内に存在する全てのコードブロックにおける発生符号量の総和がTlow以下となるようにレート制御を行う。このレート制御の結果、発生符号量の総和がClowになったものとする。
【0040】
続いてステップS3において、高域サブバンド(RL5)内に存在する全てのコードブロックにおける発生符号量の総和が(Thigh−Clow)以下となるようにレート制御を行う。このレート制御の結果、全サブバンド(RL0〜RL5)における発生符号量の総和がChighになったものとすると、このChighはChigh<Thighを満足するものであるため、発生符号量を確実に目標符号量以内に収めることができる。
【0041】
このように、本実施の形態における低域レート制御部17及び高域レート制御部18では、低域サブバンド(RL0〜RL4)のレート制御を高域サブバンド(RL5)のレート制御に優先して行うことにより、少なくともこの解像度レベルでの画質を維持或いは保証することができる。
【0042】
ここで、低域レート制御部17及び高域レート制御部18では、以下に説明する順序に従ってコーディングパス毎又はビットプレーン毎の符号量を加算する。すなわち、各サブバンドについては、最上位ビット(MSB)のビットプレーンから最下位ビット(LSB)のビットプレーンの順に選択する。
【0043】
また、各サブバンドの同じビット位置のビットプレーンについては、最低域のサブバンドから最高域のサブバンドの順に選択する。例えば図12に示すように3回ウェーブレット変換を行った場合、低域レート制御部17では0LL、1HL、1LH、1HH、2HL、2LH、2HHの順に、高域レート制御部18では3HL、3LH、3HHの順に選択する。これは、画像の重要な部分が高域よりも低域に集まっているためである。なお、同じ解像度レベルにおけるHLとLHとについては、図12のようにHLを優先させるのではなく、LHを優先させるようにしてもよい。
【0044】
また、Y(輝度)、U,V(色差)の3つのコンポーネントの同じビット位置のビットプレーンについては、例えば、Y、U、Vの順に選択する。これは、一般に色差情報よりも輝度情報に対して人間の視覚特性が敏感なためである。なお、同じ色差情報であるU及びVの重要度は入力画像に依存するため、優先順位を適宜可変にすることが好ましい。
【0045】
このビットプレーンの加算処理手順を図13のフローチャートに示す。先ずステップS10において、EBCOT部16で符号化された所定の解像度レベル又はそれ以外の解像度レベルの全コーディングパスの情報と各ビットプレーンの符号量とを保持する。
【0046】
次にステップS11において、加算符号量Yを0に初期化し、続くステップS12において、最初のサブバンド、コンポーネント、コードブロックの最上位ビット(MSB)のビットプレーンを選択する。
【0047】
続いてステップS13において、選択したビットプレーンの符号量T[Ns,Nc,C,B]をYに加算する。ここで、Ns,Nc,C,Bは、それぞれサブバンド番号、コンポーネント番号、コードブロック番号、ビットプレーン番号を示す。
【0048】
ステップS14では、加算符号量Yが目標符号量以上であるか否かが判別される。加算符号量Yが目標符号量以上である場合(Yes)には加算処理を終了し、符号量Yが目標符号量未満である場合(No)にはステップS15に進む。
【0049】
ステップS15では、同じビット位置のビットプレーンが存在するか否かが判別される。同じビット位置のビットプレーンが存在する場合(Yes)にはステップS16に進み、次のビットプレーンを選択してステップS13に戻る。一方、同じビット位置のビットプレーンが存在しない場合(No)にはステップS17に進む。
【0050】
ステップS17では、最下位ビット(LSB)か否かが判別される。最下位ビット(LSB)である場合(Yes)には加算処理を終了し、そうでない場合(No)にはステップS18において最下位ビット(LSB)側の次のビット位置の最初のビットプレーンを選択してステップS13に戻る。
【0051】
一例として、図14を用いて、低域レート制御部17における処理をビットプレーンの観点から具体的に説明する。この図14は、Y(輝度)、U,V(色差)の3つのコンポーネントに対して各サブバンド内のコードブロック(CB)毎のビットプレーンを図示している。ここで、図14において、空白領域はゼロビットプレーンを示し、斜線領域は符号化コードストリームに最終的に含まれるビットプレーンを示し、点領域はレート制御の結果、使用されないビットプレーンを示す。
【0052】
図14に示すように、低域レート制御部17では、最上位ビット(MSB)のビットプレーンから最下位ビット(LSB)のビットプレーンの順に、コードブロック、サブバンド、コンポーネントを渡りながらビットプレーンが選択される。すなわち、同じビット位置ではサブバンドについては最低域のサブバンドから最高域のサブバンドの順に、コンポーネントについては例えばY、U、Vの順にビットプレーンが選択される。具体的には、図14において、Y−0LL,…,Y−2HH,U−0LL,…,U−2HH,V−0LL,…,V−2HHのサブバンドの順に選択され、各サブバンド内ではCB0,…,CBnの順に、最上位ビット(MSB)側からビットプレーンが選択される。そして、選択されたビットプレーンの符号量の総和が所定の目標符号量に達すると、加算を停止する。
【0053】
なお、この例では、サブバンド毎の選択をコンポーネント毎の選択に優先させているが、これに限定されるものではなく、コンポーネント毎の選択をサブバンド毎の選択に優先させるようにしても構わない。
【0054】
高域レート制御部18においても同様に、Y−3HL,…,Y−3HH,U−3HL,…,U−3HH,V−3HL,…,V−3HHのサブバンドの順に選択され、各サブバンド内ではCB0,…,CBnの順に、最上位ビット(MSB)側からビットプレーンが選択される。
【0055】
このように、本実施の形態における低域レート制御部17及び高域レート制御部18では、最終的に選択されずに切り捨てられるビットプレーン数が、1フレーム内の全てのコードブロックに対して最下位ビット(LSB)側から数えて最大でも1ビットプレーンしか相違しないため、サブバンド間の画質差がなくなり、全体的に高画質な画像が得られる。
【0056】
再び図1に戻って、パケット生成部19は、低域レート制御部17から供給された算術符号D18と高域レート制御部18から供給された算術符号D20とに対してヘッダを付加してパケットを構成し、符号化コードストリームD21として出力する。この際、パケット生成部19は、図15に示すように同一解像度レベルから個々のパケットを生成する。すなわち、最低域であるパケット−1は解像度レベル0(RL0)のサブバンドのみを含み、パケット−2は解像度レベル1(RL1)のサブバンドのみを含み、以下同様である。パケット生成部19は、このパケット単位で上記符号化コードストリームD21を出力する。
【0057】
以上説明したように、本実施の形態における画像符号化装置1によれば、量子化部11において、所定の解像度レベルに属する低域のサブバンド、例えば2000×1000の原画像のうち低域の1000×500のサブバンド毎の量子化ステップサイズを、1000×500の原画像をそのまま符号化する場合のサブバンド毎の量子化ステップサイズと一致させるように量子化制御を行い、さらに低域レート制御部17において、この低域サブバンドのレート制御を高域サブバンドのレート制御に優先して行うことにより、低域サブバンドの圧縮画像の画質を元々その解像度である画像を圧縮した圧縮画像の画質に近いものに制御し、且つ原画像を圧縮した圧縮画像の画質も、高画質を維持することができる。
【0058】
また、低域レート制御部17及び高域レート制御部18では、最上位ビット(MSB)のビットプレーンから最下位ビット(LSB)のビットプレーンの順に、コードブロック、サブバンド、コンポーネントを渡りながらビットプレーンを選択してその符号量を加算し、目標符号量と比較するようにしているため、目標符号量に達した時点で直ちにレート制御を終了することができる。また、最終的に選択されずに切り捨てられるビットプレーン数が、1フレーム内の全てのコードブロックに対して最下位ビット(LSB)側から数えて最大でも1ビットプレーンしか相違しないため、サブバンド間の画質差がなくなり、全体的に高画質な画像が得られる。
【0059】
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
【0060】
例えば、上述した実施の形態では、1回ウェーブレット変換した低域のサブバンド、すなわち図10における低域サブバンド(RL0〜RL4)について特別な量子化制御及びレート制御を行う例について説明したが、これに限定されるものではなく、2回ウェーブレット変換した低域のサブバンド(RL0〜RL3)や3回ウェーブレット変換した低域のサブバンド(RL0〜RL2)等であっても構わないことは勿論である。
【0061】
【発明の効果】
以上詳細に説明したように、本発明に係る画像符号化装置は、入力画像に対してフィルタリング処理を施すことにより、解像度レベルの異なる複数のサブバンドを生成し、上記フィルタリング処理後の上記入力画像の各係数を上記サブバンド毎に設定された量子化ステップサイズで除算して量子化し、上記サブバンドを分割して所定の大きさのコードブロックを生成し、上記コードブロック毎に最上位ビットから最下位ビットに至るビットプレーンを生成し、上記ビットプレーン毎に生成されたコーディングパスを算術符号化し、生成された算術符号からパケットを構成して符号化コードストリームを生成するものであり、上記量子化の際に、所定の解像度レベルに属するサブバンドに対して設定する量子化ステップサイズを、上記所定の解像度レベルを原画像として量子化する場合に各サブバンドに対して設定する量子化ステップサイズと一致させるようにしたものである。
【0062】
このような画像符号化装置及びその方法によれば、量子化の際に、所定の解像度レベルに属するサブバンドに対して設定する量子化ステップサイズを、この所定の解像度レベルを原画像として量子化する場合に各サブバンドに対して設定する量子化ステップサイズと一致させることで、該所定の解像度レベルに属するサブバンドの圧縮画像の画質を元々その解像度である画像を圧縮した圧縮画像の画質に近いものに制御し、且つ原画像を圧縮した圧縮画像の画質も、高画質を維持することができる。
【図面の簡単な説明】
【図1】本実施の形態における画像符号化装置の概略構成を説明する図である。
【図2】第2レベルまでウェーブレット変換した場合のサブバンドを説明する図である。
【図3】実際の画像をウェーブレット変換した場合のサブバンドを示す図であり、同図(A)は、第1レベルまでウェーブレット変換した例を示し、同図(B)は、第3レベルまでウェーブレット変換した例を示す。
【図4】従来においてサブバンド毎に割り当てられる量子化ステップサイズQを示す図であり、同図(A)は、解像度が1000×500である画像の例を示し、同図(B)は、解像度が2000×1000である画像の例を示す。
【図5】本実施の形態においてサブバンド毎に割り当てられる量子化ステップサイズQを示す図であり、同図(A)は、解像度が1000×500である画像の例を示し、同図(B)は、解像度が2000×1000である画像の例を示す。
【図6】コードブロックとサブバンドの関係を説明する図である。
【図7】ビットプレーンの説明する図であり、同図(A)は、計16個の係数から成る量子化係数を示し、同図(B)は、係数の絶対値のビットプレーンを示し、同図(C)は、符号のビットプレーンを示す。
【図8】コードブロック内のコ−ディングパスの処理手順を説明する図である。
【図9】コ−ドブロック内の係数のスキャン順序を説明する図である。
【図10】同画像符号化装置の低域レート制御部及び高域レート制御部において処理するサブバンドの一例を示す図である。
【図11】同低域レート制御部及び高域レート制御部における処理を説明するフローチャートである。
【図12】同低域レート制御部及び高域レート制御部におけるサブバンド毎の優先順位を説明する図である。
【図13】同低域レート制御部及び高域レート制御部における処理の詳細を説明するフローチャートである。
【図14】同低域レート制御部における処理をビットプレーンの観点から具体的に説明する図である。
【図15】同画像符号化装置のパケット生成部で生成されるパケットを説明する図である。
【符号の説明】
1 画像符号化装置、10 ウェーブレット変換部、11 量子化部、12 コードブロック化部、13 ビットプレーン分解部、14 ビットモデリング部、15 算術符号化部、16 EBCOT部、17 低域レート制御部、18 高域レート制御部、19 パケット生成部
Claims (6)
- 入力画像に対してフィルタリング処理を施すことにより、解像度レベルの異なる複数のサブバンドを生成するフィルタリング手段と、
上記フィルタリング処理後の上記入力画像の各係数を上記サブバンド毎に設定された量子化ステップサイズで除算して量子化する量子化手段と、
上記サブバンドを分割し、所定の大きさのコードブロックを生成するコードブロック生成手段と、
上記コードブロック毎に最上位ビットから最下位ビットに至るビットプレーンを生成するビットプレーン生成手段と、
上記ビットプレーン毎に生成されたコーディングパスを算術符号化する符号化手段と、
上記符号化手段によって生成された算術符号に基づいて、上記フィルタリング手段によって生成された複数のサブバンドのうち低域の所定の解像度レベルに属する全てのコードブロックに割り当てる符号量が第1の符号量以下となるように制御する第1の符号量制御手段と、
上記符号化手段によって生成された算術符号に基づいて、上記第1の符号量制御手段による符号量制御の後に上記所定の解像度レベル以外の解像度レベルに属する全てのコードブロックに割り当てられる符号量が第2の符号量以下となるように制御する第2の符号量制御手段と、
上記第1、第2の符号量制御手段から供給された算術符号からパケットを構成して符号化コードストリームを生成する符号化コードストリーム生成手段とを備え、
上記量子化手段は、上記所定の解像度レベルに属するサブバンドに対して設定する量子化ステップサイズを、上記所定の解像度レベルを原画像として量子化する場合に各サブバンドに対して設定する量子化ステップサイズと一致させる
ことを特徴とする画像符号化装置。 - 上記第2の符号量は、上記入力画像全体の目標符号量から上記所定の解像度レベルに属する全てのコードブロックに実際に割り当てられた符号量を減じたものであることを特徴とする請求項1記載の画像符号化装置。
- 上記所定の解像度レベルに属するサブバンドは、上記入力画像に対して低域フィルタ及び高域フィルタを垂直方向及び水平方向に1回ずつ施して生成された4つのサブバンドのうちの最低域のサブバンドであることを特徴とする請求項1記載の画像符号化装置。
- 入力画像に対してフィルタリング処理を施すことにより、解像度レベルの異なる複数のサブバンドを生成するフィルタリング工程と、
上記フィルタリング処理後の上記入力画像の各係数を上記サブバンド毎に設定された量子化ステップサイズで除算して量子化する量子化工程と、
上記サブバンドを分割し、所定の大きさのコードブロックを生成するコードブロック生成工程と、
上記コードブロック毎に最上位ビットから最下位ビットに至るビットプレーンを生成するビットプレーン生成工程と、
上記ビットプレーン毎に生成されたコーディングパスを算術符号化する符号化工程と、
上記符号化工程にて生成された算術符号に基づいて、上記フィルタリング工程にて生成された複数のサブバンドのうち低域の所定の解像度レベルに属する全てのコードブロックに割り当てる符号量が第1の符号量以下となるように制御する第1の符号量制御工程と、
上記符号化工程にて生成された算術符号に基づいて、上記第1の符号量制御工程における符号量制御の後に上記所定の解像度レベル以外の解像度レベルに属する全てのコードブロックに割り当てられる符号量が第2の符号量以下となるように制御する第2の符号量制御工程と、
上記第1、第2の符号量制御工程から供給された算術符号からパケットを構成して符号化コードストリームを生成する符号化コードストリーム生成工程とを有し、
上記量子化工程では、上記所定の解像度レベルに属するサブバンドに対して設定する量子化ステップサイズを、上記所定の解像度レベルを原画像として量子化する場合に各サブバンドに対して設定する量子化ステップサイズと一致させる
ことを特徴とする画像符号化方法。 - 上記第2の符号量は、上記入力画像全体の目標符号量から上記所定の解像度レベルに属する全てのコードブロックに実際に割り当てられた符号量を減じたものであることを特徴とする請求項4記載の画像符号化方法。
- 上記所定の解像度レベルに属するサブバンドは、上記入力画像に対して低域フィルタ及び高域フィルタを垂直方向及び水平方向に1回ずつ施して生成された4つのサブバンドのうちの最低域のサブバンドであることを特徴とする請求項4記載の画像符号化方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003127409A JP4114534B2 (ja) | 2003-05-02 | 2003-05-02 | 画像符号化装置及び方法 |
US10/835,766 US7298915B2 (en) | 2003-05-02 | 2004-04-30 | Image encoding apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003127409A JP4114534B2 (ja) | 2003-05-02 | 2003-05-02 | 画像符号化装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004336254A JP2004336254A (ja) | 2004-11-25 |
JP4114534B2 true JP4114534B2 (ja) | 2008-07-09 |
Family
ID=33503968
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003127409A Expired - Fee Related JP4114534B2 (ja) | 2003-05-02 | 2003-05-02 | 画像符号化装置及び方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7298915B2 (ja) |
JP (1) | JP4114534B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7176506B2 (ja) | 2019-12-23 | 2022-11-22 | Jfeスチール株式会社 | 流体切替弁 |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007235299A (ja) * | 2006-02-28 | 2007-09-13 | Sanyo Electric Co Ltd | 画像符号化方法 |
JP4680112B2 (ja) * | 2006-03-30 | 2011-05-11 | 三菱電機株式会社 | 画像符号化装置 |
FR2903798B1 (fr) * | 2006-07-12 | 2008-10-03 | St Microelectronics Sa | Detection de perturbations d'image |
US8463061B2 (en) * | 2006-07-13 | 2013-06-11 | Nec Corporation | Encoding and decoding two-dimensional signal using a wavelet transform |
US20090180546A1 (en) * | 2008-01-09 | 2009-07-16 | Rodriguez Arturo A | Assistance for processing pictures in concatenated video streams |
US8416859B2 (en) * | 2006-11-13 | 2013-04-09 | Cisco Technology, Inc. | Signalling and extraction in compressed video of pictures belonging to interdependency tiers |
US20080115175A1 (en) * | 2006-11-13 | 2008-05-15 | Rodriguez Arturo A | System and method for signaling characteristics of pictures' interdependencies |
US8875199B2 (en) * | 2006-11-13 | 2014-10-28 | Cisco Technology, Inc. | Indicating picture usefulness for playback optimization |
US8958486B2 (en) * | 2007-07-31 | 2015-02-17 | Cisco Technology, Inc. | Simultaneous processing of media and redundancy streams for mitigating impairments |
US8804845B2 (en) * | 2007-07-31 | 2014-08-12 | Cisco Technology, Inc. | Non-enhancing media redundancy coding for mitigating transmission impairments |
CN101904170B (zh) * | 2007-10-16 | 2014-01-08 | 思科技术公司 | 用于传达视频流中的串接属性和图片顺序的方法和系统 |
US8718388B2 (en) | 2007-12-11 | 2014-05-06 | Cisco Technology, Inc. | Video processing with tiered interdependencies of pictures |
US8416858B2 (en) * | 2008-02-29 | 2013-04-09 | Cisco Technology, Inc. | Signalling picture encoding schemes and associated picture properties |
US8886022B2 (en) * | 2008-06-12 | 2014-11-11 | Cisco Technology, Inc. | Picture interdependencies signals in context of MMCO to assist stream manipulation |
US8971402B2 (en) | 2008-06-17 | 2015-03-03 | Cisco Technology, Inc. | Processing of impaired and incomplete multi-latticed video streams |
US8699578B2 (en) | 2008-06-17 | 2014-04-15 | Cisco Technology, Inc. | Methods and systems for processing multi-latticed video streams |
US8705631B2 (en) * | 2008-06-17 | 2014-04-22 | Cisco Technology, Inc. | Time-shifted transport of multi-latticed video for resiliency from burst-error effects |
WO2009158550A2 (en) * | 2008-06-25 | 2009-12-30 | Cisco Technology, Inc. | Support for blocking trick mode operations |
JP4979655B2 (ja) * | 2008-08-07 | 2012-07-18 | キヤノン株式会社 | 画像符号化装置及びその制御方法 |
WO2010056842A1 (en) | 2008-11-12 | 2010-05-20 | Cisco Technology, Inc. | Processing of a video [aar] program having plural processed representations of a [aar] single video signal for reconstruction and output |
WO2010096767A1 (en) * | 2009-02-20 | 2010-08-26 | Cisco Technology, Inc. | Signalling of decodable sub-sequences |
US8782261B1 (en) | 2009-04-03 | 2014-07-15 | Cisco Technology, Inc. | System and method for authorization of segment boundary notifications |
US8949883B2 (en) | 2009-05-12 | 2015-02-03 | Cisco Technology, Inc. | Signalling buffer characteristics for splicing operations of video streams |
US8279926B2 (en) | 2009-06-18 | 2012-10-02 | Cisco Technology, Inc. | Dynamic streaming with latticed representations of video |
US20110222837A1 (en) * | 2010-03-11 | 2011-09-15 | Cisco Technology, Inc. | Management of picture referencing in video streams for plural playback modes |
JP2013106333A (ja) * | 2011-11-17 | 2013-05-30 | Sony Corp | 画像処理装置および方法 |
KR102001415B1 (ko) * | 2012-06-01 | 2019-07-18 | 삼성전자주식회사 | 다계층 비디오 코딩을 위한 레이트 제어 방법, 이를 이용한 비디오 인코딩 장치 및 비디오 신호 처리 시스템 |
JP6857973B2 (ja) * | 2016-06-14 | 2021-04-14 | キヤノン株式会社 | 画像符号化装置及びその制御方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6157746A (en) * | 1997-02-12 | 2000-12-05 | Sarnoff Corporation | Apparatus and method for encoding wavelet trees generated by a wavelet-based coding method |
US6549674B1 (en) * | 2000-10-12 | 2003-04-15 | Picsurf, Inc. | Image compression based on tiled wavelet-like transform using edge and non-edge filters |
-
2003
- 2003-05-02 JP JP2003127409A patent/JP4114534B2/ja not_active Expired - Fee Related
-
2004
- 2004-04-30 US US10/835,766 patent/US7298915B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7176506B2 (ja) | 2019-12-23 | 2022-11-22 | Jfeスチール株式会社 | 流体切替弁 |
Also Published As
Publication number | Publication date |
---|---|
US20050002574A1 (en) | 2005-01-06 |
JP2004336254A (ja) | 2004-11-25 |
US7298915B2 (en) | 2007-11-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4114534B2 (ja) | 画像符号化装置及び方法 | |
JP4273996B2 (ja) | 画像符号化装置及び方法、並びに画像復号装置及び方法 | |
JP3534465B2 (ja) | サブバンド符号化方法 | |
JP3271985B2 (ja) | 適応ビット割当てとハイブリッド可逆エントロピー符号化を使用したデータ圧縮 | |
JP3743384B2 (ja) | 画像符号化装置及び方法、並びに画像復号装置及び方法 | |
JP4367880B2 (ja) | 画像処理装置及びその方法並びに記憶媒体 | |
JP2002523000A (ja) | 画像圧縮における埋込みクワッドツリーウェーブレット | |
US6993199B2 (en) | Method and system for improving coding efficiency in image codecs | |
US7120306B2 (en) | Image processing method and image coding apparatus utilizing the image processing method | |
JP4135617B2 (ja) | 画像符号化装置及び方法 | |
JP4449400B2 (ja) | 画像符号化装置及び方法、並びにプログラム及び記録媒体 | |
US7333664B2 (en) | Image compression method capable of reducing tile boundary distortion | |
US20070133680A1 (en) | Method of and apparatus for coding moving picture, and method of and apparatus for decoding moving picture | |
JP4003628B2 (ja) | 画像符号化装置及び方法、並びにプログラム | |
JP3115089B2 (ja) | 符号化装置及び符号化方法 | |
JP4379527B2 (ja) | 符号化装置及び方法 | |
Pan et al. | Efficient and low-complexity image coding with the lifting scheme and modified SPIHT | |
JP2004064115A (ja) | 符号量制御装置およびプログラム | |
JP2004064104A (ja) | 圧縮符号化装置、圧縮符号化方法およびプログラム | |
JP2000201353A (ja) | 画像符号化方法およびその装置およびそのプログラムを記憶した記憶媒体 | |
JP2002271793A (ja) | 画像圧縮符号化装置及び方法 | |
JP4367113B2 (ja) | 画像符号化装置及び方法 | |
JP2004088164A (ja) | 画像処理装置 | |
JP4040404B2 (ja) | 符号列変換装置及び方法、画像処理装置並びに画像記録装置 | |
JP2842472B2 (ja) | 静止画像データの圧縮方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060427 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071225 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080325 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080407 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110425 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110425 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120425 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130425 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |