JP4208900B2 - 復号方法及び復号装置 - Google Patents

復号方法及び復号装置 Download PDF

Info

Publication number
JP4208900B2
JP4208900B2 JP2006165343A JP2006165343A JP4208900B2 JP 4208900 B2 JP4208900 B2 JP 4208900B2 JP 2006165343 A JP2006165343 A JP 2006165343A JP 2006165343 A JP2006165343 A JP 2006165343A JP 4208900 B2 JP4208900 B2 JP 4208900B2
Authority
JP
Japan
Prior art keywords
image
tile
bitstream
tiles
entropy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006165343A
Other languages
English (en)
Other versions
JP2006304345A (ja
Inventor
フィリップ アンドリュー ジェームス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from AUPP4468A external-priority patent/AUPP446898A0/en
Priority claimed from AUPP5749A external-priority patent/AUPP574998A0/en
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2006304345A publication Critical patent/JP2006304345A/ja
Application granted granted Critical
Publication of JP4208900B2 publication Critical patent/JP4208900B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/36Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H04N19/64Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission
    • H04N19/645Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission by grouping of coefficients into blocks after the transform
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、圧縮された画像データを復号する方法及び装置に関し、特にデジタル画像の局所部分を効率よく再生するための技術に関する。
JPEG圧縮標準は、画像圧縮のために広く用いられている。それは、十分な歪み率(圧縮)性能を提供する。基本方式モードでは、効果的なランダムアクセスが可能である。しかしながら、各々の画像ブロック(8×8)の情報は、圧縮された画像ビットストリーム上に連続的に記録されるので、多様な解像度の復号には必ずしも効果的ではない。例えば、ディスクから画像の極めて低い解像度バージョンを復号するために、基本方式モードで符号化されたJPEG画像から、DC係数のみを読取ることは、通常、当該ディスクからJPEG画像全体を読取ることと同じくらいの負担(できるだけ小さくした場合)がかかる。これは、DC係数がビットストリーム全体にわたって配置されているからである。
一方、階層的JPEGモードは、異なる解像度(若しくは画像サイズ)の効果的な復号を提供するが、効果的なランダムアクセスは困難である。すなわち、階層的JPEGモードは、異なった画像解像度が、ある程度独立して蓄積されるため、通常、他のモードよりも33%大きな圧縮ファイルを与える。
最近では、基本方式のJPEGよりも歪み率の性能が高い画像圧縮技術もある。これらの技術は、典型的には、サブバンド符号化体系であり、離散ウェーブレット変換に基づくものである。
これまでに、これらのサブバンド体系は、効果的なランダムアクセスを提供していない。これらの体系の問題は、サブバンドがビットストリーム上に配置され、画像の一部を復号するために、復号されるべき画像の所望の部分に関連する係数をビットストリームから検索することが要求されることにある。このことは、特に、情報(係数)を比較的長いアクセス時間を必要とする記憶装置から読み出す場合に、全く非効果的である。そのような装置には、CDROMドライブ、フロッピー(登録商標)ディスクドライブ、ハードディスクドライブ等が含まれる。
ハードディスク又はCDROMドライブのような記憶媒体からデータを読み出すことは、しばしば比較的時間を消費する処理である。特に、検索処理(記憶媒体上で、与えられたデータセグメントのスタートを見つけ出すこと。)を実行するためには、比較的長い時間がかかる。このため、データを読み出すときは、通常、最小のデータのかたまりが読み出される。すなわち、大きなビットストリーム上に規則的に配置された小さなデータセグメントを読み出すことは、ビットストリーム全体を読み出すことと同じ消費時間になり得る。
これらの現在の圧縮方法は、画像の一部を復号するために用いる場合に、いくつかの不利益がある。どちらの現在の手法も、次のことを提供することができない。
a)非冗長表現(劣った圧縮率へ変換する)、
b)複数の解像度表現
c)画像の所定の局所部分へ、比較的効果的に、実質的なランダムアクセスすることができる表現
従って、本発明の目的は、係る従来技術の問題点を改善することにある。例えば、本発明は、局所部分を所望解像度で高速に再生できる技術を提供することを目的とする。
本発明によれば、画像を表すビットストリームを復号し、前記画像の一部を再生する復号方法であって、前記ビットストリームは画像にNレベル(Nは自然数)の2次元ウェーブレット変換を施すことにより生成される1つの低周波数サブバンドDCと、N組の3種類の高周波数サブバンドHL、LH、HHと、からなり、前記低周波数サブバンド及び各高周波数サブバンドは、その生成後にそれぞれ複数個のタイルに分割されており、前記各タイルは各々独立にエントロピー符号化されており、少なくとも1つのレベルm(mはN以下の自然数)の前記3種類の高周波数サブバンドHLm、LHm、HHmのエントロピー符号化タイルのうち、前記画像の同じ部分を表現する為の前記エントロピー符号化タイルは、前記ビットストリーム中でタイルの組として連続的に配置されており、かつ、互いに隣接する前記画像の複数の部分に渡って前記タイルの組が連続的に配置され、前記ビットストリームは、前記エントロピー符号化タイル及び前記タイルの組の位置を特定するポインタ情報を有し、前記方法は、解像度及び前記画像の一部を選択し、前記ポインタ情報を参照することにより、前記選択された解像度及び画像の一部に対応する、前記ビットストリーム中のエントロピー符号化タイル又は前記タイルの組を特定し、復号することにより、前記画像の一部を再生することを特徴とする復号方法が提供される
また、本発明によれば、画像を表すビットストリームを復号し、前記画像の一部を再生する復号装置であって、前記ビットストリームは画像にNレベル(Nは自然数)の2次元ウェーブレット変換を施すことにより生成される1つの低周波数サブバンドDCと、N組の3種類の高周波数サブバンドHL、LH、HHと、からなり、前記低周波数サブバンド及び各高周波数サブバンドは、その生成後にそれぞれ複数個のタイルに分割されており、前記各タイルは各々独立にエントロピー符号化されており、少なくとも1つのレベルm(mはN以下の自然数)の前記3種類の高周波数サブバンドHLm、LHm、HHmのエントロピー符号化タイルのうち、前記画像の同じ部分を表現する為の前記エントロピー符号化タイルは、前記ビットストリーム中でタイルの組として連続的に配置されており、かつ、互いに隣接する前記画像の複数の部分に渡って前記画像の複数の部分に渡って前記タイルの組が連続的に配置され、前記ビットストリームは、前記エントロピー符号化タイル及び前記タイルの組の位置を特定するポインタ情報を有し、前記装置は、解像度及び前記画像の一部を選択する手段と、前記ポインタ情報を参照することにより、前記選択された解像度及び画像の一部に対応する、前記ビットストリーム中のエントロピー符号化タイル又は前記タイルの組を特定し、復号することにより、前記画像の一部を再生する再生手段と、を備えたことを特徴とする復号装置が提供される
本発明によれば、エントロピー符号化タイル及びタイルの組の位置を特定するポインタ情報を参照することにより、符号化データストリームにおける、所望の解像度表現で画像中の所定の局所部分に対応するストリームに効率良くアクセスでき、結果的に高速に所望画像を再生できる。
図1は、本発明の好適な実施の形態による符号化処理100のフロー図を示している。スタートステップ101では、デジタル画像が入力され、また、符号化処理100のために初期化ステップ102が実行される。初期化ステップ102では、デジタル画像のための圧縮品質や圧縮ファクター等の符号化パラメータが所望の値にセットされる。
次に、分解ステップ103が実行され、ここでは、画像の複数レベルサブバンド分解(multi-level subband decomposition)が実行される。画像の複数レベルサブバンド分解は、通常、複数のブロック(サブバンド)へ、分割された複数の係数を与える。係数は、デジタル(空間領域:spatial domain)画像の非冗長的((non-redundant)な複数解像度(サイズ)周波数領域(frequency domain)を提供する。
これに関連して、非冗長性は、画像の第二の表現に要求される値の数が実質的に等しい画像の第1の表現における値の数に関連する。つまり、周波数領域表現における係数の合計数は、空間領域表現における画像の画素の値の合計数に実質的に等しい。すなわち、画像の複数解像度(周波数領域)表現は、画素値又は対応する係数の複製なしに実行される。
本実施形態においては、複数レベルサブバンド分解は、3−レベルの離散ウェーブレット変換(DWT)である。しかしながら、サブバンド分解を提供する他の変換も、本発明の範囲及び要旨から離れることなく代用することができる。例えば、離散コサイン変換(DCT)を用いることもできる。
DWTが適用されるレベルの数は、一般的に、変換される画像のサイズ及び要求される解像度(サイズ)の数に依存する。通常、NレベルのDWTは、解像度の数の合計が、画像の最高解像度(全サイズ)を含み、N+1である。
図2は、画像の3レベルDWTを実行した後に得られる表現200を示している。
通常、各々のレベルは、画像3つの高周波数サブバンドとDC(低周波数)サブバンドとからなる最高又は最低レベルを除く、3つの高周波数サブバンドから構成される。3レベルDWTの複数の係数は、単一レベルDWTの3つのアプリケーションに起因する。これらの係数は、各々の係数によって表される周波数領域又は周波数に従って、サブバンドへグループ化又は部分化されている。
サブバンドには、DC、HL3、HH3、LH3、HL2、HH2、LH2,HL1、HH1及びLH1というラベルが付される。DCサブバンドブロックは、最も低い周波数(DC)係数を含み、また、周波数領域における画像の最も低い解像度(サイズ)を表現する。レベル3(3)サブバンドの三つ組、HL3,HH3及びLH3は、そのDCサブバンドと共に、周波数領域における画像の次に高い解像度を表現する。DCサブバンド、レベル3サブバンドの三つ組及びレベル2(2)サブバンドの三つ組(Hl2,HH2及びLH2)は、別の更に高い解像度を表現する。すなわち、DCサブバンドからLH1サブバンドへのサブバンドの選択は、周波数領域におけるデジタル画像の最も高い解像度(全サイズ)を表現する。
サブバンドブロックにおける各々の係数は、デジタル画像における画素の空間的に連続したグループに対応している。係数は、係数が配置されたサブバンドによって決定される周波数の領域のための、空間領域における画素の内容グループを表す。例えば、レベル1(1)のサブバンドにおける各々の係数は、画像の画素の2×2グループに相当し、レベル2のサブバンドにおける各々の係数は、画像の画素の4×4グループに相当し、レベル3のサブバンドにおける係数は、画像の画素の8×8グループに相当する。一般に、レベルjのサブバンドにおける係数は、画像の画素値の2×2グループに相当する。周波数領域における係数と空間領域における画素のグループとの間の関連における近似の程度は、DWTのために選択された基本セットに依存する。例えば、DWTのためにHaar基本セット(すなわち、Haar変換)が用いられた場合は、画素のグループの正確な再構成(合成)が、周波数領域における対応する係数から可能である。
画像のサブバンドの分解に加えて、分解ステップ103(図1)では、各々のサブバンドを複数の重複しないタイルへ分割する。各々のサブバンドは同じ数のタイルからなり、各々のタイルは、1又はそれ以上の対応するサブバンドの係数を含むことが好ましい。すなわち、例えば、DCサブバンドブロックにおけるタイルは、最低の解像度におけるデジタル画像の一部を表す。タイルは、一定のサイズに選択することもできる。すなわち、本発明の範囲及び要旨から逸脱することなく、タイル毎に同じ数だけの係数を含むことである。
サブバンドブロックをタイル化することの利点は、画像全体を再構成することなしに、画像の局所部分のみを合成(再構成)できることにある。後述するように、各々のタイル又はタイルのグループは、画像の圧縮を達成するためにエントロピー符号化される。すなわち、所定の一のタイルをエントロピー復号すること及び逆DWTを通じてタイルを合成することは、画像の所定の局所部分の再構成を招来する。
タイルの相対的なサイズ(例えば、サブバンドのサイズの1/4)は、予め決定され、また、通常、圧縮効率(大きなタイルを要求する)と、画像の一部の局所的な再構成の正確さ(可能な最も小さいサイズを要求する)との間の兼ね合いによって制約される。圧縮効率と再構成の局所化との間の妥協策は、通常は、図1の符号化処理の指定されたアプリケーションのために決定される。
画像を、その対応する周波数領域においてタイル化することの他のアプローチは、画像の空間領域における画素の領域を同一化することであり、変換(すなわちDWT)が適用されたときに、各々の領域が周波数領域のタイル化に対応することである。実際には、画像の空間領域は、概念的に複数の領域に分割され、所定の線形変換のアプリケーション上にて、画像の対応する周波数領域のタイル化を招来する。
図3は、128×128画素画像の周波数領域表現300を示している。周波数領域表現は、図2に従ってサブバンド302へ分割される128×128の分割された係数301(太線により図3に示す。)の配列を備える。各々のサブバンドは、更に分割され又は4つの重複しないタイル303にタイル化される。
図4は、各々のサブバンド302における各々のタイルのために与えられたラベルの付された図である。ラベルの付された図において、各々のサブバンドにおけるタイルには、オーダ(order)対(m、n)により、次のように、ラベルが付されている。左上のタイルは、タイル(0、0)が付され、右上のタイルは(0、1)が付され、左下のタイルは(1、0)が付され、右下のタイルは(1、1)が付される。
すなわち、図2のサブバンドのラベル化及び図4のタイルのラベル化図によれば、図3におけるタイルは、そのサブバンドのラベルとそのタイルのラベルとの双方によって特定される。例えば、図3を参照すると、タイル304は、DCサブバンドに属し、また、サブバンドの左上のタイルなので、DC(0、0)、として特定される。
再び図1を参照して、符号化処理100における次のステップは、分解ステップ103の後、DCサブバンドブロックの各々のタイルをビットストリーム中へエントロピー符号化するDC符号化処理104である。各々のサブバンドにおけるタイル303は、ラスタオーダ(raster oder)においてビットストリームにエントロピー符号化されることが好ましい。例えば、DCサブバンドの各々のタイルは、エントロピー符号化され、以下のオーダー、DC(0、0)、DC(0、1)、DC(1、0)及びDC(1、1)で、ビットストリームに付加される。ビットストリーム中への各々のタイルの係数のこのラスタオーダに関して記載された本発明に係る本実施形態に対して、本発明の範囲及び要旨を逸脱することなく、ビットストリーム中への各々のタイルにおける係数の異なったオーダ化手法を採用できることが、当業者であれば理解できるであろう。例えば、各々のタイル(又は後述する三つ組のタイル)における各々の係数のバイナリー表現のビットを差込むことは、デコーダ及びその対応するエンコーダが同じオーダ手法に従っているならば採用し得る。
本実施形態において用いられるエントロピー符号化及び復号の処理は、<エントロピー符号化処理>欄、および、<エントロピー復号処理>欄においてそれぞれより詳細に説明する。しかしながら、本発明の範囲及び要旨から逸脱することなく、各々のタイルにおける係数を符号化(復号)するために、他のエントロピー符号化(復号)手法も用いることができる。例えば、ハフマン又は算術符号化(復号)手法も各々のタイルにおける係数を符号化(復号)するために用いることができる。
図1のフロー図における次のステップは、ステップ105において、レベルカウントであり可変の「levelNum」をDWTのレベルの数に対応した値3(3)に初期設定することである。
次に、ステップ106において、「tile Num」としてここでは参照される可変のタイルカウントは、ゼロ(0)に初期設定される。可変のlevelNumとtileNumは、図1の符号化処理がACサブバンド(すなわち、前もってビットストリーム中へエントロピー符号化されたDCサブバンド以外の全てのサブバンド)の各々のタイルを通してカウントダウンすることを許容するように変化するループである。タイルカウントである可変の「tileNum」は、フロー図における次のステップ107に加算され、それから3つのステップ、エントロピー符号化HLサブバンドステップ108、エントロピー符号化LHサブバンドステップ109及びエントロピー符号化HHサブバンドステップ110、が続く。エントロピー符号化HLサブバンドステップ108では、「levelNum」で示された現在の解像度レベルで、「tileNum]によって示された現在のタイルのビットストリーム中へのエントロピー符号化を実行する。実質的に同様の手法で、ステップ109及び110ではサブバンドLH及びHHの現在のレベルにおける現在のタイルを、ビットストリーム中へそれぞれエントロピー符号化する。
決定ステップ111では、現在のタイルが、現在のレベルにおける最後のタイルであるか否かを決定するためのチェックを行う。決定ステップ111が偽(no)を返した場合は、処理は、112によりループして、「tileNum」の加算ステップ107へ戻り、新たな現在のタイルについてステップ107、108、109、110及び111の処理が実質的に既に述べたように反復される。そうではなく、決定ステップ111が真(yes)を返した場合は、処理は、ステップ113へ進み、可変の「levelNum」が減算される。
決定ステップ114では、現在のレベルが、処理の最後のレベルか否か、すなわち、「levelNum」がゼロ(0)か否かを決定するためのチェックを行う。決定ステップ114が偽(no)を返した場合は、図1の符号化処理は、ループして戻り、ステップ106における「tileNum」をゼロ(0)に初期化し、実質的に先に述べたようなステップ107乃至114の処理を、新たな現在のレベル(すなわち減算されたlevelNum)のために反復する。そうではなく、決定ステップ114が真(yes)を返した場合は、本実施形態に従って符号化されたビットストリームが作成され、処理100はステップ115において終了する。
符号化処理100の結果によるビットストリームは、図1を参照して、次のように表現することができる。DC(0、0)、DC(0、1)、DC(1、0)、DC(1、1)、HL3(0、0)、LH3(0、0)、HH3(0、0)、HL3(0、1)、LH3(0、1)、HH3(0、1)、HL3(1、0)、LH3(1、0),HH3(1、0)、HL3(1、1)、LH3(1、1)、HH3(1、1)....HL1(1、1)、LH1(1、1)、HH1(1、1)。
ヘッダー情報は、上記表現には含まれていない。
図1を参照して上述した通り、各々のタイル、例えば、上記表現におけるDC(0,0)は、独立してエントロピー符号化される。しかしながら、係数のより大きなグループをエントロピー符号化することによって、よりよい全体の圧縮率を達成しつつ、画像の所望の部分の再構成に関して実質的に同様の局所処理の正確さを一般的に維持するため、実際にはタイルのグループをいっしょにエントロピー符号化することが要望される。例えば、実際には、もし、HL3(0,0)がエントロピー復号されたならば、画像の一部の画素値を得るために、それから、タイルLH3(0,0)及びHH3(0、0)も復号されるだろう。これらのタイルは、画像の同じ部分に関連するからである。すなわち、各々のACサブバンドブロックの三つ組(HL,LH及びHH)のために対応するタイルは、単一ユニットとしてエントロピー復号され得ることがこのましい。この単一ユニットは、以下、「タイル三つ組」(すなわち、HL3(0,0)、LH3(0,0)及びHH3(0、0)は、そのようなタイル三つ組である。)と称する。
図5には、全体のビットストリームを実質的に表した線図500が示されている。ビットストリームの始まり501におけるヘッダー情報は、ビットストリームのサイズ、圧縮品質のパラメータ、及び圧縮率の値の情報が含まれ得る。ヘッダー情報は、また、符号化されたタイルの実質的なランダムアクセスを許容するための複数のビットストリームポインタ情報をも含む。例えば、ポインター情報は、DCサブバンドにおける各々のタイルの開始位置に対するポインタや各々のタイル三つ組の開始位置に対するポインタを備える。あるいは、ポインタ情報はビットストリームにおける各々のタイルの開始位置に対するポインタを含むことができる。ポインタ情報は、タイル毎のビット数又は単一ユニットとしてエントロピー符号化されたタイル三つ組毎のビット数であることが好ましい。あるいは、ポインタ情報は、タイル三つ組毎のバイト数であり、タイル又はタイル三つ組のコードは、バイトの全体数になるように引き伸ばされる。そのようなポインタ情報は、必ずしも絶対的なアドレスである必要はないが各々のタイル又はタイル三つ組の開始位置に対する相対的なアドレスとすることができる。
好ましくは、もし、タイル(又はタイル三つ組)が、全体的にゼロ係数から構成されるときは、そのタイル(又はタイル三つ組)に対する相対的なポインタとして記録することができ、そのタイルのためのビットストリームにおいてビットは要しない。対応するポインタ情報(すなわち、ゼロ)と隣接するタイルのサイズとから、ゼロの係数がいくつあるかを決定することができるからである。この好ましい特徴は、ビットストリームに対する追加の圧縮を提供し、一又は複数のタイルが全体的にゼロの係数から構成されることが決定される。
DCサブバンドのためのエントロピー符号化されたタイルは、ビットストリーム500において連続的に配置され、図1乃至4を参照して上述した通り、レベル3のサブバンド、レベル2のサブバンド、及び、レベル1のサブバンド、のためのエントロピー符号化タイルが続く。
エントロピー符号化されたタイル(又はタイル三つ組)は、当該タイル又はタイル三つ組のエントロピー符号化又は復号のために用いられる、対応するタイルヘッダー情報(図5では図示しない)を要求するかもしれない。例えば、本実施形態のエントロピー符号化又は復号方法のためには、最大ビット平面を示す最大ビット数「maxbitNumber」が、配置された係数のエントロピー符号化又は復号のために要求される。すなわち、例えば、本実施形態のエントロピー符号化又は復号方法を用いたエントロピー符号化又は復号をするために、タイルは、当該タイルのための「maxbitNumber」を含む、関連・対応するタイルヘッダー情報を要求する。
以下、タイルとタイル三つ組という用語は、特に、エントロピー符号化又は復号について言及しているときは、相互に交換可能に用いられる。タイル三つ組における最大の係数の大きさからmaxbitNumberが決定される場合を除き、タイル三つ組のエントロピー符号化又は復号は、好ましくは、タイル上で、タイル基底(tile basis)毎に、実行されるからである。
ヘッダー情報は、対応する各々のタイルの開始位置においてビットストリーム500において配置され、また、各々のタイルの係数から独立して符号化されることが好ましい。通常、タイルのヘッダー情報は、各々のタイルにおける係数のために用いられるものとは異なるエントロピー符号化技術によってエントロピー符号化される。例えば、ハフマン符号化は、タイルのヘッダー情報のために用いることができ、一方、対応するタイルの係数は本実施形態のエントロピー符号化方法を用いることによりエントロピー符号化される。
図6は、本実施形態により符号化された圧縮画像500(ビットストリーム)から、画像の所定の部分を復号するためのフロー図を示している。スタートステップ600では、圧縮画像500(ビットストリーム)から所望の画像の領域及び当該領域の解像度(又はサイズ)が選択される。
処理は、次のステップ601へ進み、ここでは、タイルの数に関する決定がなされ、ビットストリーム500中に復号されたタイルの当該数が、先のステップ600で選択された画像の領域を得るために復号される。ビットストリーム500から復号されるタイルの数は、少なくとも当該タイルから得られる領域が選択された領域を包囲するようなものであることが好ましい。
次のステップ602では、ビットストリーム500のヘッダーにおけるポインタ情報が、ビットストリーム500から復号すべきタイルを見つけるために用いられる。ビットストリーム500において各々の所望のタイルが見つけられると、そのタイルは、復号ステップ603へ渡される。復号ステップ603は、始めにタイルのためのタイルヘッダ情報を復号し、その情報(すなわち、maxbitNumber)を用いてそのタイルをエントロピー復号する。そのタイルは、エントロピー復号されて出力される。
決定ステップ604では、現在のタイルが、先のステップ601において決定されたタイルの最後のタイル否かを決定するためのチェックが行われる。決定ステップ604が偽(no)を返したら、図6のフロー図は、605からループしてステップ602に戻り、ステップ602乃至604が、上述したように反復される。そうではなく、決定ステップ604が真(yes)を返した場合は、所望の数のタイルが復号され、出力されて、本実施形態の復号処理がステップ606にて終了する。
復号されたタイルは、通常、記憶ユニットに出力され、ビデオディスプレイ装置上に表示される前に、サブバンド解析(すなわち、逆DWT)が実行される。
<エントロピー符号化処理>
本実施形態の更なる説明をする前に、以下で用いる術語について簡単に説明する。数「ビットn」又は「ビット数n」の二進数表現は、最下位ビット(ビット0で始まる)の左側で桁n番目を表す。例えば、8ビットの二進数表現を想定すると、十進数の9は00001001として表現される。この数において、ビット3は1に等しく、ビット2、ビット1及びビット0は、それぞれ0、0及び1に等しい。加えて、変換は、縦横に配置された係数を有するマトリックスとして表現され、各々の係数はビット列によって表現され得る。概念的に言えば、マトリックスは、3つの次元を有する。1つめは行方向における次元、二つめは列方向における次元、3つめはビット列の方向の次元である。この3次元空間(同じビット数において各々のビット列を通過する)における平面は、「ビット平面」又は「ビットの平面」と称する。
変換符号化アプリケーションで、係数の可能な範囲を表すために要求される係数毎のビットの数は、線形変換又は入力画像における各画素の解像度(画素毎のビットにおける)によって決定される。各画素の値の範囲は、通常、変換係数の大半の値に対して大きく、すなわち、大半の係数は、ゼロが先行する大きな数を有している。例えば、数値9は、8ビット表現で4個のゼロが先行し、16ビット表現では12個のゼロが先行する。本実施形態では、効率的な方法で、係数のブロックに対して、これらの先行するゼロを表現する(又は符号化)するための方法及び装置を提供する。残りのビットと数値の符号は変更なしに直接符号化される。
説明を簡略化して本発明を不必要に不明瞭にしないために、以下、変換係数は、符号なし二進数の形で符号1ビットをつけて表現するものとする。つまり、十進数−9及び9は、同じビット列、すなわち1001で表現され、前者は等しい符号ビットで負の値であることを表現し、後者は、0に等しい符号ビットで正の値を表現する。先行するゼロの個数は、変換係数の範囲によって決定する。整数表現を用いる場合において、当該係数は、すでに暗黙のうちに最も近い整数値へ量子化されているが、本実施形態においては、必ずしも要しない。さらに、圧縮目的で、少数点以下のビットに含まれる何らかの情報は通常無視される。
タイルは、一組の連続した画像係数で構成される。係数という術語は、以下、画素と相互交換可能に用いられるが、当業者によって十分に理解されるように、前者は、通常、変換領域(例えば、DWT領域)における画素を表すために用いられる。
図7は、本実施形態によるエントロピー符号化方法を図示したフロー図である。ステップ702では、タイルを用いて処理が開始する。ステップ706では、絶対値が最大の変換係数の最上位ビット(MSB)が、タイルのヘッダ情報から決定され、パラメータ「maxBitNumber」が、この係数値にセットされる。例えば、最大の変換係数が二進数の値00001001(十進数で9)の場合、パラメータ「maxBitNumber」は3にセットされる。これは、そのMSBがビット番号3だからである。これ以外に、パラメータ「maxBitNumber」は、絶対値が最大の変換係数のMSBよりも大きな値をセットしてもよい。タイル三つ組のために当該三つ組における各々のタイルが別々にエントロピー符号化されるが、当該タイル三つ組のための「maxBitNumber」は利用される。実際に、タイル三つ組における3つのタイルはその後いっしょに復号されるため、共通の「maxBitNumber」の利用はタイル三つ組と当該タイル三つ組における各々のタイルとを関連付ける。問題となるタイル全体に対して各々初期領域をセットすることにより、各々のタイルは、別々に処理されることができる。
更に、ステップ706では、符号化パラメータ、「minBitNumber」が、符号化画像品質を指定するようにセットされる。さらに詳しくは、この符号化パラメータは、変換される画像の全ての係数の精度を指定し、必要に応じて変更できる。例えば、「minBitNumber」が3であれば、1の場合よりも、元の画像の再現がより粗くなる。
「minBitNumber」は、通常、ビットストリーム500のヘッダー情報に記録され、画像全体の圧縮の品質を定義する。
ステップ712において開始されて、各々のタイルは、タイル全体として初期領域をセットすることにより符号化される。ステップ714において、領域は、パラメータとしての「maxBitNumber」及び「minBitNumber」と共に符号化される。ステップ716において処理が終了する。
図8は、各々の領域を符号化するための、図7のステップ714において呼び出される手順、「Code region(currentBitNumber,minBitNumber)」のフロー図を詳細に示したものであり、ここでは「maxbitNumber」は、「currentBitNumber」として与えられる。ステップ802では、処理が開始する。図8の領域符号化処理への入力は、「currentBitNumber」及び「minBitNumber」のパラメータを含む。当該方法は、再帰的技術、すなわち、処理が、選択された領域又はサブ領域と共にそれ自身を呼び出すことができる技術、として実行されことが好ましい。しかしながら、その処理は、本発明の範囲及び要旨から逸脱することなく、非再帰的な手法において実行してもよい。
決定ブロック804では、「currentBitNumber」パラメータが「minBitNumber」パラメータよりも小さいかどうかを決定するためのチェックが行われる。決定ブロック804が真(yes)を返したらならば、何も行われず、ステップ806における呼び出し手順(又は親処理)へ戻る。この条件は、選択領域のあらゆる係数が「minBitNumber」よりも小さいMSB番号を有することを表している。そうではなく、決定ブロック804が偽(no)を返した場合は、処理は決定ブロック808に進む。
決定ブロック808では、選択された領域が、1×1画素かどうかを決定するためのチェックが行われる。本実施形態では、1×1画素の所定のサイズで説明しているが、当業者であれば、本発明の範囲及び要旨を逸脱することなく、他の異なるサイズを用いることができることが明らかである。所定のサイズは、M×N画素とすることができ、この場合、M及びNは共に正の整数である。例えば、所定のサイズは2×2の画素又は係数よりも小さいか同じサイズであってもよい。決定ブロック808が、真(yes)を返したならば、処理はステップ810へ進む。ステップ810では、1×1画素が符号化される。ここでも、当業者にとって、異なる所定のサイズ(M×N画素)を用いることができることは明らかである。更に、所定のサイズは、2×2の画素又は係数より小さいか同じサイズであってもよい。好ましくは、このステップ810は、符号化表現に「minBitNumber」より上の残りのビットを直接出力することを伴う。ステップ812では、処理は、呼び出し手順へ戻る。そうではなく、決定ブロック808が偽(no)を返した場合、領域は一以上の係数より構成されており、処理は決定ブロック814へ進む。
決定ブロック814では、有意か否かを決定するために選択領域がチェックされる。すなわち、その領域の有意性を調べる。領域内で各々の係数のMSBが「currentBitNumber」パラメータの値よりも小さい場合には当該領域は有意でないとされる。領域有意性の考え方を明確にするため、式(1)に数学的定義を掲載する。任意のビット番号で、仮にcurrentBitNumber=nで、領域は次のような場合に有意でないとされる:
Figure 0004208900
ここで、Rは領域、cijは当該領域内の係数(i,j)を表す。
決定ブロック814が偽(no)を返した場合は、処理はステップ816へ進む。ステップ816では、値0(すなわち第1のトークン:first token)が符号化表現ストリームに出力され、「currentBitNumber」が1つ減算されて、サブルーチン「Code region(currentBitNumber−1、minBitNumber)」に対して、再帰的な呼び出しがステップ817においてされる。すなわち、次に、領域のより低いビット平面が処理のために選択される。処理はその後、決定ブロック804へ進み、領域は、パラメータ「currentBitNumber−1」及び「minBitNumber」により再び処理される。そうではなく、決定ブロック814が真(yes)を返した場合は、その領域は有意であり、処理はステップ818へ進む。代わりに、再帰的な関数の呼び出し数を減ずるため、ステップ814を、「currentBitNumber−nゼロ」を出力させる工程に変更することもできる。ここでのnは有意な領域の最大の整数である。もし、nが「minBitNumber」よりも小さくない場合は、処理はステップ818へ進み、その他の場合は関数が終了する。
ステップ818では、値1(すなわち第2のトークン:second token)が符号化表現ストリームに出力される。ステップ820では、選択された領域が所定の数(好ましくは4)のサブ領域に、指定された分割アルゴリズム又は処理を用いることにより分割される。用いられる分割処理にデコーダは対応している。
本実施形態においては、正方形領域が用いられ、各々の正方形領域は、4分木方式により分割される。すなわち、領域は、4つの同じサイズ(正方形)の領域に分割されるのが好ましい。サブ領域は、その後、再帰的に選択され、再び4つの同じサイズ(正方形)のサブ領域に分割される。再帰的な分割のためのサブ領域の選択は、実質的にサブ領域の係数の値に依存し、所望のサイズのサブ領域に至るか又はサブ領域の全ての係数がゼロになったときに再帰はストップする。この4分木形式の分割は、当初の領域のサイズ及び形状に依存しており、常に可能とは限らない。もし、可能でないならば、当初の領域は、2のべき乗(power)である次元を有するいくつかの正方形領域に分割することができ、これらの区分は、別々に符号化することができる。いずれにしても、インテリジェントな形式でなされれば、この初期化がもたらす影響は最小である。他の実施形態では、ブロック単位のコーダに適している異なる分割が用いられる。
ステップ822では、各々のサブ領域が同じ「currentBitNumber」及び「minBitNumber」パラメータにより符号化される。好ましくは、これは、図8の処理「Code region(currentBitNumber、minBitNumber)」を再帰的に呼び出すことによりなされる。サブ領域のこの符号化は並行して若しくは連続して実行され得る。
符号化表現において、変換係数は「currentBitNumber」から「minBitNumber」へ画素ビットを単に出力することによって符号化される。好ましくは、約束事にしたがって、いくつかの係数ビットがゼロでない場合にのみ、符号が出力される。例えば、もし「currentBitNumber」=3で、「minBitNumber」=1であれば、−9(00001001)は、符号ビット「1」に続く「100」として符号化される。
<圧縮符号化の例>
本実施形態のエントロピー符号化方法は、大半の変換係数の先行するゼロを効率的に符号化する一方で、最上位ビットから所定の最下位のビットへ、パラメータ「minBitNumber」によって指定されるビットを符号化し、符号は単純にそのままとする。すなわち、本実施形態は、先行するゼロをうまく表現する。この方法は、ある状況で、すなわち、所定の手法でゆがめられた配列された係数を符号化する場合にはとても効果的であり、通常、広いダイナミックレンジが示される。通常、いくつかの係数がとても大きな値を持つ一方で、大半はとても小さな値をもつ。係数の大きさは、最も大きな大きさの係数から実質的に降順に配置されるような配列において配置される。
4×4係数からなる2次元領域を符号化する例を、図11A乃至11Dを参照して説明する。図11Aの4×4領域1100の処理は「maxBitNumber」を7にセットして開始さる。これが、全ての係数の中で最も大きなビット番号(ビット平面)だからである。
Figure 0004208900
説明のため、「minBitNumber」は3にセットされる。タイルのヘッダー(情報)は、「maxbitNumber」を含む符号化表現に出力されるのが好ましい。領域1100を符号化する処理は以下のとおりである。
「currentBitNumber」=7で、(1)が出力される。領域1100はビット番号7に対して有意だからである(決定ブロック804、808及び814、及び、図8のステップ818を参照)。領域1100は、その後、4つのサブ領域、図11Aの左上の領域1110、右上の領域1112、左下の領域1114及び右下の領域1116、に分割される(図8のステップ820を参照)。各々のサブ領域は2×2係数からなる。
図11Aのサブ領域1110、1112、1114及び1116は、図11Bに示した予め定義された処理シーケンスにおいて順に符号化され、領域1150は4つのサブ領域1150A乃至1150Dから構成される。図に示された3本の矢印は、処理の順番又はシーケンス、すなわち、左上のサブ領域1150A、右上のサブ領域1150B、左下のサブ領域1150C及び右下のサブ領域1150D、をそれぞれ示している。
図11Aのサブ領域1110は、最初に符号化される(図8のステップ822を参照)。「currentBitNumber」が7に等しい場合、(1)が符号化表現に出力される。サブ領域1110は、その後、4つの1×1画素(十進数値200、13、−13、及び3を有する)に分割される。これらの係数の各々は、「currentBitNumber」=7から「minBitNumber」=3までの各係数のビットをへ出力することで符号化される(図8の決定ブロック808及びステップ810を参照)。符号ビットは、その後必要に応じて出力される。このようにして、十進数での値が200なら符号ビット0に続けて11001と符号化される。係数値13は、符号ビット0付きで00001として符号化される。係数値−13は、符号ビット1の付いた00001に符号化される。最後に、係数値3は、00000(符号ビットなし)に符号化される。各係数の符号化表現は、「currentBitNumber」と「minBitNumber」との間に、係数「200」のビットに先行する2個の「1」ビットを含む。これで、左上のサブ領域1110の符号化が完了する。この段階での符号化出力は次のようになる:
Figure 0004208900
タイルヘッダー情報は、上記表現には示していない。
右上のサブ領域1112は、その後、符号化される(図11B毎に)。各「currentBitNumber」が7、6、5及び4について、領域1112は、これらのビット番号に対して有意でないため、(0)が出力される。「currentBitNumber」=3で、(1)が出力される。このビット平面はビット番号3に対して有意だからである。サブ領域1112は、値−11、−8、−4及び−3を有する4つの1×1画素に分割される。これらの十進数の値は、それぞれ、符号ビット1が付されたビット値1、符号ビット1が付されたビット値1、符号ビットなしのビット値0同じくビット値0として符号化される。すなわち、この段階では、符号化表現は、次の通りである。
Figure 0004208900
その後、左下のサブ領域1114が符号化される。(0)が各「currentBitNumber」が7、6、5及び4のために出力される。領域1114はこれらのビット番号に対して有意ではないからである。「currentBitNumber」が3で、(1)が出力される。このビット平面は、ビット番号3に対して有意だからである。サブ領域1114は、その後、値8、1、2及び−1を有する4つの1×1画素に分割される。これらは、各々、符号ビット0の2進数の値1、符号ビットなしの2進数の値0、0及び0として符号化される。
最後に、値−2、−2、−3及び−3を有する右下のサブ領域1116が符号化される。各「currentBitNumber」が7,6,5,4及び3のために、(0)が出力される。サブ領域1116は、これらのビット番号に対して有意でないためである。符号ビットは出力されない。すなわち、符号化表現は、以下の通りである。

111100100000100000110000000001111100000011000000000

エントロピーデコーダは、単純にエントロピー符号化処理にならって、図11Cに図示したように符号化表現から領域を再構成する。
復号処理は、多数の方法で"よりスマート"に行うことができる。このような「よりスマート」な手法の一つを図11Dに示す。この場合、各々の非ゼロ係数の大きさは2の「minBitNumber」のべき乗の半分ずつ増加する。これを図11Dに示す。このようにすると、「スマート」な復号処理は、復号した係数と元の係数の間の平均二乗誤差を一般的に減少できる。更に、符号器はこれ以外にもこの(種の)演算を実行でき、これによってデコーダに図11Cに図示した最も簡単な方法を利用させる。
<エントロピー復号処理>
図9は、本実施形態のエントロピー符号化処理によりエントロピー符号化されたタイルを復号する手法を図示したフロー図である。ステップ902では、符号化表現を用いて処理が開始する。ステップ906では、選択されたタイルの復号が、領域を選択されたタイル全体に対してセットすることによって開始される。ステップ908では、選択された領域が「maxBitNunber」及び「minBitNumber」パラメータを用いて復号される。処理は、ステップ912で終了する。
図10は、「Decode region(currentBitNumber,minBitNumber)」を呼び出す手順を用いることにより各領域を復号するための、図9のステップ908の詳細なフロー図を示している。ここで「maxBitNumber」は「currentBitNumber」として与えられる。ステップ1002では、処理が開始する。図10の領域復号処理に対する入力は、「currentBitNumber」及び「minBitNumber」パラメータである。再び、再帰的技術として好適な方法が実行される。しかしながら、本発明の範囲及び要旨から逸脱することなく、当該処理は非再帰的技術で実行されてもよい。
決定ブロック1004では、「currentBitNumber」が「minBitNumber」より小さいか否かを決定するためのチェックが行われる。決定ブロック1004が真(yes)を返した場合は、処理はステップ1006へ進み、処理が、呼び出し手順へ戻る。そうではなく、決定ブロック1004が偽(no)を返した場合は、処理は、決定ブロック908へ進む。
決定ブロック1008では、選択された領域が、1×1画素サイズを有するか否かを決定するチェックが行われる。決定ブロック1008が真(yes)を返した場合は、処理はステップ1010へ進む。ステップ1010では、1×1領域が復号される。なお、サイズは予め決定してもよく、M×N画素と等しくてもよい。この場合、MとNは正の整数である。例えば、サイズは2×2の画素又は係数と等しいか若しくは小さくしてもよい。処理は、その後、ステップ1010における呼び出し手順へ戻る。決定ブロック1008が、偽(no)を返した場合は、処理はステップ1014へ進む。ステップ1014では、ビットが符号化表現から入力される。
決定ブロック1016では、ビットが1に等しいか、すなわち、領域が有意か否かを決定するために、入力がチェックされる。決定ブロック1016が偽(no)を返した場合は、処理はステップ1018へ進む。ステップ1017では、「currentBitNumber」が1つ減算されて、サブルーチン「Decode Region(currentBitNumber−1,minBitNumber)」に対して再帰的呼び出しが成され、処理は決定ブロック1004へ進む。そうではなく、決定ブロック1016が真(yes)を返した場合は、処理はステップ1020へ進む。ステップ1020では、領域が、所定の数(好ましくは4)のサブ領域に分割される。ステップ1022では、各サブ領域は「currentBitNumber」及び「minBitNumber」を用いて復号される。本実施形態では、この処理は、図10に示した処理を再帰的に呼び出すことによりなされる。ステップ1024では、処理が呼び出し手順へ戻る。
このように、エンコーダでの有意性の決定から出力されたビットが処理のどのパスを取るかデコーダに指示し、こうしてエンコーダに倣う。
画素とおそらくは符号も適当なビット数(currentBitNumberからminBitNumberまで、及び、それらに非ゼロがある場合には符号ビット)で単純に読み出すことにより復号される。
符号化及び復号処理は、図12に示されるような従来の汎用コンピュータを用いて実行することがこのましく、図1乃至11に示した処理は、コンピュータ上で実行されるソフトウエアとして行われる。特に、符号化及び/又は復号処理の工程は、コンピュータによって実行されるソフトウエアにおける指示により達成される。ソフトウエアは2つの部分に分割されてもよく、一つは、符号化及び/又は復号方法を実行するための部分であり、もう一つは、後者とユーザとの間のユーザインターフェースを取り扱う部分である。ソフトウエアは、コンピュータ可読媒体、例えば、後述する記憶装置に格納されてもよい。ソフトウエアはコンピュータ可読媒体からコンピュータにロードされ、その後、コンピュータにより実行される。そのようなソフトウエア又はコンピュータプログラムを有するコンピュータ可読媒体は、コンピュータプログラム製品である。コンピュータ内でそのようなコンピュータプログラム製品を使用することは、本実施形態に関連して、デジタル画像の符号化及びデジタル画像の符号化表現の復号に有利な装置には、むしろ効果的である。システムは、デジタル画像の符号化のため及び対応する画像の符号化表現を復号するため、若しくはその逆のための専用システムとされ得る。
コンピュータシステム1200は、コンピュータ1202と、ビデオディスプレイ1216と、入力装置1218及び1220とを備える。更に、コンピュータシステム1200は、ラインプリンタ、レーザプリンタ、プロッタ及びコンピュータ1201に接続される他の記録装置を含むいくつかの出力装置を有することもできる。コンピュータシステム1200は、一又は複数の他のコンピュータと、モデム通信経路、コンピュータネットワーク等の適当な通信チャネル1230を利用した通信インターフェース1208cを介して接続することもできる。コンピュータネットワークとしは、ローカルエリアネットワーク(LAN),ワイドエリアネットワーク(WAN)、イントラネット、及び/又はインターネットが含まれる。
コンピュータ1202は、それ自体、中央処理ユニット1204と、ランダムアクセスメモリ(RAM)及びリードオンリーメモリ(ROM)等を含むメモリ1206と、入力/出力(IO)インターフェース1208a及び1208bと、ビデオインターフェース1210と、一又は複数の記憶装置(概して、図12のブロック1212で示される。)と、を備える。記憶装置1212は、一又は複数の、フロッピー(登録商標)ディスク、ハードディスクドライブ、光磁気ディスクドライブ、CD−ROM、磁気テープの他、当業者に公知の不揮発性記憶装置のうちの1又は2以上のものから構成することができる。各々の構成1204乃至1212は、通常、順にデータバス、アドレスバス、コントロールバスから構成され得るバス114を介して相互に接続される。
ビデオインターフェース1210は、ビデオディスプレイ1216に接続され、コンピュータ1202からの表示のためのビデオ信号をビデオディスプレイ1216へ供給する。コンピュータ1202を操作するためのユーザの入力は、1又は複数の入力装置によってもたらされる。例えば、オペレータは、キーボード1218及び/又はマウス1220のようなポインティングデバイスを、コンピュータ1202への入力のために利用することができる。
システム1200は、単なる一例であり、本発明の範囲及び要旨から逸脱することなく、他の形式も採用し得る。本実施形態を実施できる典型的なコンピュータには、IBM−PC/AT又は互換機、マッキントッシュ(TM)ファミリのコンピュータ、サンマイクロシステムズのSparctation(TM)等が含まれる。これらは、本実施形態が実行しえるコンピュータの形式の単なる例示に過ぎない。概して、本実施形態の以下の処理は、ソフトウエア又はコンピュータ可読媒体としてのハードディスクドライブ(概して図12のブロック1212に示される)に記録されたプログラムとして備わっており、また、プロセッサ104を用いて読取られ、また、制御される。プログラム、画素データ及びネットワークから取りこまれたデータの中間記録は、ハードディスクドライブ1212と協同可能な半導体メモリ1206を用いることにより実行することができる。
いくつかの場合、プログラムは、CD−ROM又はフロッピー(登録商標)ディスク(共に概してブロック1212によって示される)に符号化されてユーザに供給することができ、また、代わりに、例えば、コンピュータに接続されたモデム装置を介してネットワークからユーザによって読取られることもできる。更に、ソフトウエアも、磁気テープ、ROM、集積回路、光磁気ディスク、コンピュータと他の装置との間における電波又は赤外線伝送路、PCMCIAカードのようなコンピュータ可読カード、を含む他のコンピュータ可読媒体から、または、E−mail通信及びウェブサイトに記録された情報を含むインターネットおよびイントラネット等から、コンピュータシステム1200へロードすることもできる。これらは、適切なコンピュータ可読媒体を例示したに過ぎない。他のコンピュータ可読媒体も本発明の範囲及び要旨を逸脱することなく用いることができる。
符号化及び/又は復号の方法は、この他に、符号化及び復号の機能又は補助機能を実行する一又は複数の集積回路のような専用のハードウエアにおいて実行することもできる。そのような専用のハードウエアは、グラフィックプロセッサ、デジタルシグナルプロセッサ、又は、一又は複数のマイクロプロセッサ及び関連するメモリを含むことができる。
システムの一般的な処理において、ユーザは、上述した1又は複数のコンピュータ可読媒体に記録されたデジタル画像を符号化/復号するであろう。その他に、ユーザは、通信チャネル1230を介して当該デジタルを取得することもできる。そのような環境では、復号処理は、遠隔のコンピュータ(図示しない)で実行され、また、復号処理はコンピュータ1202で実行される。
<他の実施形態>
他の実施形態は、上述した実施形態として実質的に説明されるが、画像の複数レベルサブバンド分解によって提供される全ての複数解像度が、効率的にビットストリームへ符号化されるのではなく、予め選択された数のレベル(解像度)のみが、上記実施形態に従って効率的な符号化のために選択される。
すなわち、例えば、図2及び図3に記載された4つの解像度の3つが所望の解像度として選択される。例えば、最も高い解像度ならば、次に高い解像度及び最も低い解像度だけが所望の解像度であり、その後、図1の符号化処理に対するマイナーな修正を伴って、2つの解像度レベルが、効率的に、単一の符号化された解像度を提供するために符号化処理において結合(combine)される。
図1において説明した符号化処理において2つの解像度を結合することにより、効率的に符号化された解像度の合計数は1つづつ減る。解像度レベルの結合により、結合の効果的な解像度は、結合における最も高い解像度と同等になる。
非冗長的な階層化表現においては、一つの解像度を復号するためには、通常、全ての先のより低い解像度レベルの情報を必要とする。すなわち、結合は、複数解像度の2つ又はそれ以上の隣接するレベルの結合であることが好ましい。この実施形態では、ビットストリームは、例えば、図3により説明したレベル3及びレベル2のサブバンドのタイルを、単一の解像度へ結合したビットストリームを有し、次のように表現される。
DC(0、0)、DC(0、1)、DC(1、0)、DC(1、1)、HL3(0、0)、LH3(0、0)、HH3(0、0)、HL2(0、0)、LH2(0、0)、HH2(0、0)、HL3(0、1)、LH3(0、1)、HH3(0、1)、HL2(0、1)、LH2(0、1)、HH2(0、1)、HL3(1、0)、LH3(1、0)、HH3(1、0)、HL2(1、0)、LH2(1、0)、HH2(1、0)、HL3(1,1)、LH3(1、1)、HH3(1,1)....HL1(1,1)、LH1(1,1)、HH1(1、1)
上記表現には、ヘッダ情報は示していない。
上記実施形態のビットストリームの配置によれば、有利なことに、所定の解像度における画像の局所部分を表現する1又はそれ以上のタイルへ効率的にアクセスできる。しかしながら、アクセスタイム中に、他の実施形態として説明したように解像度レベルの結合においてより低い解像度レベルをほどくために、追加の負担があっても本発明の実施形態によるビットストリームから、画像のサブバンド分解によって得られた全ての解像度は、常に取り出せる。
本発明の実施形態のビットストリームの配置は、ランダムアクセスのためのアクセス時間が比較的遅い記憶装置へビットストリームを格納し、また、そこから読み出す点で有利である。
本実施形態において説明したビットストリームの更に有利な点は、デジタル画像の一部にアクセスするために、解像度レベル毎のタイルの行(row)毎のビットストリームへのポインタアクセスが、せいぜい一つし要求されないことにある。
ポインタ及びサイズ(各々のタイルの係数の数)から決定され得るオフセットは、行(row)におけるタイルをアドレスするために用いることができる。その他に、ビットストリーム中に順番に(連続的に)配置され、(所望の)解像度レベル毎に、空間的に関連のあるタイル毎のポインタがせいぜい要求される。
本実施形態では、いくつかの例について説明したが、これが全てではない。当業者であれば、ビットストリームの配置のいくつかが、インテリジェントな手法で解像度(サブバンドのレベル)をビットストリーム中へ結合することによってなしえることが理解されるであろう。例えば、NレベルDWT表現で単に最大及び最小の解像度において画像の一部に効率的にアクセスするために、最も小さい解像度以外の解像度を与えるサブバンドにおけるタイルが、上記他の実施形態において説明されたように実質的にビットストリーム中へ結合され得る。
上述した説明は、本発明の一部の実施形態にのみ関するものであるが、当業者であれば、本発明の範囲及び要旨を逸脱することなく、修正及び/又は変更を行うことができる。
本発明の好適な実施の形態による画像符号化処理のブロック図である。 本発明の好適な実施の形態による符号化された表現の概略図である。 図2におけるコード表現をタイル化表現した図である。 図3に示したタイルにオーダーリングしたものを示した図である。 本発明の好適な実施の形態におけるビットストリームを表した図である。 本発明の好適な実施の形態における復号処理のブロック図である。 本発明の好適な実施の形態による画像の表現又は符号化の方法を表したフロー図である。 図7のある領域を符号化する工程を表した詳細なフロー図である。 図7に示す方法により生成された画像のコード表記を復号する方法を示すフロー図である。 図9のある領域を復号する工程を示すフロー図である。 図7乃至図10の符号化及び復号方法による2次元、8係数領域の処理を示した図である。 図7乃至図10の符号化及び復号方法による2次元、8係数領域の処理を示した図である。 図7乃至図10の符号化及び復号方法による2次元、8係数領域の処理を示した図である。 図7乃至図10の符号化及び復号方法による2次元、8係数領域の処理を示した図である。 本発明の好適な実施形態を実行するためのコンピュータを示した図である。

Claims (6)

  1. 画像を表すビットストリームを復号し、前記画像の一部を再生する復号方法であって、
    前記ビットストリームは画像にNレベル(Nは自然数)の2次元ウェーブレット変換を施すことにより生成される1つの低周波数サブバンドDCと、N組の3種類の高周波数サブバンドHL、LH、HHと、からなり、
    前記低周波数サブバンド及び各高周波数サブバンドは、その生成後にそれぞれ複数個のタイルに分割されており、
    前記各タイルは各々独立にエントロピー符号化されており、
    少なくとも1つのレベルm(mはN以下の自然数)の前記3種類の高周波数サブバンドHLm、LHm、HHmのエントロピー符号化タイルのうち、前記画像の同じ部分を表現する為の前記エントロピー符号化タイルは、前記ビットストリーム中でタイルの組として連続的に配置されており、かつ、互いに隣接する前記画像の複数の部分に渡って前記タイルの組が連続的に配置され、
    前記ビットストリームは、前記エントロピー符号化タイル及び前記タイルの組の位置を特定するポインタ情報を有し、
    前記方法は、
    解像度及び前記画像の一部を選択し、
    前記ポインタ情報を参照することにより、前記選択された解像度及び画像の一部に対応する、前記ビットストリーム中のエントロピー符号化タイル又は前記タイルの組を特定し、復号することにより、前記画像の一部を再生することを特徴とする復号方法。
  2. 記ビットストリーム中で、前記低周波数サブバンドのエントロピー符号化タイルは互いに隣接する前記画像の複数の部分に渡って連続して配置されたことを特徴とする請求項1に記載の復号方法。
  3. 前記ビットストリームにおいて前記エントロピー符号化タイルは、前記画像全体を対象として、前記低周波数サブバンドDC、第1の解像度レベルに相当する前記高周波数サブバンドHL3、LH3、HH3、前記第1の解像度レベルより高い第2の解像度レベルに相当する前記高周波数サブバンドHL2、LH2、HH2、前記第2の解像度レベルより高い第3の解像度レベルに相当する前記高周波数サブバンドHL1、LH1、HH1、の順に配置されていることを特徴とする請求項1又は2に記載の復号方法。
  4. 画像を表すビットストリームを復号し、前記画像の一部を再生する復号装置であって、
    前記ビットストリームは画像にNレベル(Nは自然数)の2次元ウェーブレット変換を施すことにより生成される1つの低周波数サブバンドDCと、N組の3種類の高周波数サブバンドHL、LH、HHと、からなり、
    前記低周波数サブバンド及び各高周波数サブバンドは、その生成後にそれぞれ複数個のタイルに分割されており、
    前記各タイルは各々独立にエントロピー符号化されており、
    少なくとも1つのレベルm(mはN以下の自然数)の前記3種類の高周波数サブバンドHLm、LHm、HHmのエントロピー符号化タイルのうち、前記画像の同じ部分を表現する為の前記エントロピー符号化タイルは、前記ビットストリーム中でタイルの組として連続的に配置されており、かつ、互いに隣接する前記画像の複数の部分に渡って前記画像の複数の部分に渡って前記タイルの組が連続的に配置され、
    前記ビットストリームは、前記エントロピー符号化タイル及び前記タイルの組の位置を特定するポインタ情報を有し、
    前記装置は、
    解像度及び前記画像の一部を選択する手段と、
    前記ポインタ情報を参照することにより、前記選択された解像度及び画像の一部に対応する、前記ビットストリーム中のエントロピー符号化タイル又は前記タイルの組を特定し、復号することにより、前記画像の一部を再生する再生手段と、
    を備えたことを特徴とする復号装置。
  5. 前記ビットストリーム中で、前記低周波数サブバンドのエントロピー符号化タイルは互いに隣接する前記画像の複数の部分に渡って連続して配置されたことを特徴とする請求項4に記載の復号装置。
  6. 請求項1乃至3のいずれか1項に記載の復号方法をコンピュータに実行させるプログラムを記憶した記憶媒体。
JP2006165343A 1998-07-03 2006-06-14 復号方法及び復号装置 Expired - Fee Related JP4208900B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
AUPP4468A AUPP446898A0 (en) 1998-07-03 1998-07-03 An image coding method and apparatus for localized decoding at variable resolutions
AUPP5749A AUPP574998A0 (en) 1998-09-07 1998-09-07 An image coding method and apparatus for localised decoding at multiple resolutions

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP17598999A Division JP4420415B2 (ja) 1998-07-03 1999-06-22 符号化方法及び符号化装置

Publications (2)

Publication Number Publication Date
JP2006304345A JP2006304345A (ja) 2006-11-02
JP4208900B2 true JP4208900B2 (ja) 2009-01-14

Family

ID=25645818

Family Applications (2)

Application Number Title Priority Date Filing Date
JP17598999A Expired - Fee Related JP4420415B2 (ja) 1998-07-03 1999-06-22 符号化方法及び符号化装置
JP2006165343A Expired - Fee Related JP4208900B2 (ja) 1998-07-03 2006-06-14 復号方法及び復号装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP17598999A Expired - Fee Related JP4420415B2 (ja) 1998-07-03 1999-06-22 符号化方法及び符号化装置

Country Status (4)

Country Link
US (2) US6763139B1 (ja)
EP (1) EP0971544B1 (ja)
JP (2) JP4420415B2 (ja)
DE (1) DE69940238D1 (ja)

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7236637B2 (en) * 1999-11-24 2007-06-26 Ge Medical Systems Information Technologies, Inc. Method and apparatus for transmission and display of a compressed digitized image
US20020044696A1 (en) * 1999-11-24 2002-04-18 Sirohey Saad A. Region of interest high resolution reconstruction for display purposes and a novel bookmarking capability
US7421136B2 (en) * 1999-11-24 2008-09-02 Ge Medical Systems Information Technologies Inc. Image tessellation for region-specific coefficient access
AUPQ982400A0 (en) * 2000-09-01 2000-09-28 Canon Kabushiki Kaisha Entropy encoding and decoding
FR2816138B1 (fr) * 2000-10-27 2003-01-17 Canon Kk Decodage de donnees numeriques
JP3984886B2 (ja) * 2001-09-28 2007-10-03 キヤノン株式会社 データ変換装置、データ変換方法、コンピュータプログラム、記憶媒体
JPWO2003075552A1 (ja) * 2002-03-04 2005-06-30 有限会社 瀬戸口総研 ウェーブ指向画像データベースの構築/統御法
JP4135888B2 (ja) 2002-09-18 2008-08-20 株式会社リコー 画像処理装置、画像処理方法、プログラム及び記憶媒体
US7646927B2 (en) 2002-09-19 2010-01-12 Ricoh Company, Ltd. Image processing and display scheme for rendering an image at high speed
JP4064196B2 (ja) * 2002-10-03 2008-03-19 株式会社リコー クライアントコンピュータ、サーバコンピュータ、プログラム、記憶媒体、画像データ処理システム及び画像データ処理方法
ITMO20030053A1 (it) * 2003-03-04 2004-09-05 Alcom Algoritmi Compressione Dati S Rl Dispositivo e metodo di codifica e decodifica per la compressione e decompressione di dati digitali.
US7912299B2 (en) * 2004-10-08 2011-03-22 Microsoft Corporation System and method for efficiently encoding data
US7546419B2 (en) * 2004-06-01 2009-06-09 Aguera Y Arcas Blaise Efficient data cache
US7075535B2 (en) * 2003-03-05 2006-07-11 Sand Codex System and method for exact rendering in a zooming user interface
US7133054B2 (en) * 2004-03-17 2006-11-07 Seadragon Software, Inc. Methods and apparatus for navigating an image
US7930434B2 (en) * 2003-03-05 2011-04-19 Microsoft Corporation System and method for managing communication and/or storage of image data
US7254271B2 (en) * 2003-03-05 2007-08-07 Seadragon Software, Inc. Method for encoding and serving geospatial or other vector data as images
US7042455B2 (en) * 2003-05-30 2006-05-09 Sand Codex Llc System and method for multiple node display
JP4665898B2 (ja) * 2004-02-23 2011-04-06 日本電気株式会社 2次元信号の符号化/復号方法および装置
US20060235941A1 (en) * 2005-03-29 2006-10-19 Microsoft Corporation System and method for transferring web page data
CN102196266B (zh) 2005-09-23 2013-07-03 喷流数据有限公司 利用逐颜色分裂向调色板图像提供熵约束颜色分裂的计算机系统
TW200746655A (en) * 2005-11-18 2007-12-16 Sony Corp Encoding device and method, decoding device and method, and transmission system
JP2007318694A (ja) * 2006-05-29 2007-12-06 Canon Inc 画像処理方法、画像処理装置
KR100834669B1 (ko) * 2006-10-20 2008-06-02 삼성전자주식회사 썸네일 이미지 생성을 위한 웨이블릿 변환 기반 이미지부호화기, 복호화기 및 그 방법
AU2006246497B2 (en) * 2006-11-30 2010-02-11 Canon Kabushiki Kaisha Method and apparatus for hybrid image compression
CN101543077B (zh) * 2007-01-31 2011-01-19 索尼株式会社 信息处理装置和方法
JP2009122847A (ja) * 2007-11-13 2009-06-04 Ricoh Co Ltd ファイルアクセス装置
US8116580B2 (en) * 2008-05-12 2012-02-14 Lexmark International, Inc. Embedded high frequency image details
US8391638B2 (en) 2008-06-04 2013-03-05 Microsoft Corporation Hybrid image format
US20100035217A1 (en) * 2008-08-11 2010-02-11 David Kasper System and method for transmission of target tracking images
WO2010038337A1 (ja) * 2008-09-30 2010-04-08 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
JP5037574B2 (ja) 2009-07-28 2012-09-26 株式会社ソニー・コンピュータエンタテインメント 画像ファイル生成装置、画像処理装置、画像ファイル生成方法、および画像処理方法
US8462392B2 (en) * 2009-08-13 2013-06-11 Telcordia Technologies, Inc. System and method for multi-resolution information filtering
WO2011019625A1 (en) * 2009-08-10 2011-02-17 Telcordia Technologies, Inc. System and method for multi-resolution information filtering
KR20120009618A (ko) * 2010-07-19 2012-02-02 에스케이 텔레콤주식회사 주파수변환단위 분할부호화 방법 및 장치와 이를 이용한 영상 부호화/복호화 방법 및 장치
US10091506B2 (en) * 2015-06-11 2018-10-02 Sony Corporation Data-charge phase data compression architecture
US10027968B2 (en) * 2015-06-12 2018-07-17 Sony Corporation Data-charge phase data compression tool
US10303498B2 (en) 2015-10-01 2019-05-28 Microsoft Technology Licensing, Llc Performance optimizations for emulators
US11327802B2 (en) * 2019-07-31 2022-05-10 Microsoft Technology Licensing, Llc System and method for exporting logical object metadata
US11042422B1 (en) 2020-08-31 2021-06-22 Microsoft Technology Licensing, Llc Hybrid binaries supporting code stream folding
US11231918B1 (en) 2020-08-31 2022-01-25 Microsoft Technologly Licensing, LLC Native emulation compatible application binary interface for supporting emulation of foreign code
US11403100B2 (en) 2020-08-31 2022-08-02 Microsoft Technology Licensing, Llc Dual architecture function pointers having consistent reference addresses

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6316773A (ja) * 1986-07-08 1988-01-23 Mitsubishi Electric Corp Crtモニタ装置
EP0522219B1 (en) 1991-07-11 1997-10-15 International Business Machines Corporation Improved method for subband coding images and device for implementing said method
JPH05260512A (ja) * 1992-03-12 1993-10-08 Hitachi Ltd 画像信号の記録再生装置
GB9206860D0 (en) 1992-03-27 1992-05-13 British Telecomm Two-layer video coder
GB2281465B (en) 1993-08-27 1997-06-04 Sony Uk Ltd Image data compression
US5867602A (en) 1994-09-21 1999-02-02 Ricoh Corporation Reversible wavelet transform and embedded codestream manipulation
US6141446A (en) * 1994-09-21 2000-10-31 Ricoh Company, Ltd. Compression and decompression system with reversible wavelets and lossy reconstruction
JP3577794B2 (ja) * 1995-07-18 2004-10-13 ソニー株式会社 データ復号化装置
JP3516534B2 (ja) * 1995-08-31 2004-04-05 シャープ株式会社 映像情報符号化装置及び映像情報復号化装置
US5668599A (en) * 1996-03-19 1997-09-16 International Business Machines Corporation Memory management for an MPEG2 compliant decoder
US5682152A (en) * 1996-03-19 1997-10-28 Johnson-Grace Company Data compression using adaptive bit allocation and hybrid lossless entropy encoding
US6865291B1 (en) 1996-06-24 2005-03-08 Andrew Michael Zador Method apparatus and system for compressing data that wavelet decomposes by color plane and then divides by magnitude range non-dc terms between a scalar quantizer and a vector quantizer
AUPO329496A0 (en) 1996-10-28 1996-11-21 Commonwealth Scientific And Industrial Research Organisation Image encoding
FR2755818A1 (fr) 1996-11-08 1998-05-15 Canon Kk Codage de signal numerique par decomposition en sous-bandes de frequence et quantification vectorielle a etats finis
US6326965B1 (en) * 1998-04-14 2001-12-04 International Business Machines Corp. Interactive representation and retrieval of multi-dimensional data using view elements
US6325965B1 (en) * 1998-11-02 2001-12-04 Sumitomo Special Metals Co., Ltd. Forming method and forming apparatus
US6314452B1 (en) * 1999-08-31 2001-11-06 Rtimage, Ltd. System and method for transmitting a digital image over a communication network

Also Published As

Publication number Publication date
US6763139B1 (en) 2004-07-13
EP0971544B1 (en) 2009-01-07
JP4420415B2 (ja) 2010-02-24
EP0971544A3 (en) 2001-04-25
US7088866B2 (en) 2006-08-08
JP2006304345A (ja) 2006-11-02
EP0971544A2 (en) 2000-01-12
US20040170332A1 (en) 2004-09-02
JP2000036959A (ja) 2000-02-02
DE69940238D1 (de) 2009-02-26

Similar Documents

Publication Publication Date Title
JP4208900B2 (ja) 復号方法及び復号装置
JP3653183B2 (ja) ウェーブレット係数再構成処理方法及び装置、並びに記録媒体
US6163626A (en) Method for digital image compression
US6259819B1 (en) Efficient method of image compression comprising a low resolution image in the bit stream
US6804402B2 (en) Method and apparatus for hierarchically encoding and decoding an image
US6263110B1 (en) Method for data compression
US6389074B1 (en) Method and apparatus for digital data compression
US20010041015A1 (en) System and method for encoding a video sequence using spatial and temporal transforms
US6266414B1 (en) Method for digital data compression
JP2007267384A (ja) 圧縮装置及び圧縮方法
JP4540855B2 (ja) ウェーブレット係数の並べ替えを使用したイメージ符号化
US6606416B1 (en) Encoding method and apparatus for representing a digital image
US6542641B1 (en) Method and apparatus for decoding a coded representation of a digital image
US6411736B1 (en) Method and apparatus for decoding
AU708489B2 (en) A method and apparatus for digital data compression
AU725719B2 (en) A method of digital image compression
AU736469B2 (en) An image coding method and apparatus for localized decoding at multiple resolutions
AU740066B2 (en) Method and apparatus for hierarchical encoding or decoding video images
AU727869B2 (en) An efficient method of image compression comprising a low resolution image in the bit stream
AU728938B2 (en) A method for data compression
Deng An interpolative subband coding algorithm for lossless image compression
AU5715099A (en) A method and apparatus for decoding a coded representation of a digital image
AU8709898A (en) Method and apparatus for decoding

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070427

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070806

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071116

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080115

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080314

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080513

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080804

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081006

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081021

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131031

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees