JP2004343299A - 時系列信号の符号化装置および記録媒体 - Google Patents

時系列信号の符号化装置および記録媒体 Download PDF

Info

Publication number
JP2004343299A
JP2004343299A JP2003135620A JP2003135620A JP2004343299A JP 2004343299 A JP2004343299 A JP 2004343299A JP 2003135620 A JP2003135620 A JP 2003135620A JP 2003135620 A JP2003135620 A JP 2003135620A JP 2004343299 A JP2004343299 A JP 2004343299A
Authority
JP
Japan
Prior art keywords
sample
value
encoding
time
samples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003135620A
Other languages
English (en)
Other versions
JP4249540B2 (ja
Inventor
Toshio Motegi
敏雄 茂出木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2003135620A priority Critical patent/JP4249540B2/ja
Publication of JP2004343299A publication Critical patent/JP2004343299A/ja
Application granted granted Critical
Publication of JP4249540B2 publication Critical patent/JP4249540B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

【課題】符号化条件パラメータを所定の区間ごとに変更可能であると共に、大容量のデータであっても符号化することが可能な時系列信号の符号化装置を提供する。
【解決手段】時系列のサンプル列で構成される音響信号をあらかじめ設定されたサンプル数単位を1ブロックとして、ワークメモリに読み込み、符号化処理を行う。符号化の際、各ブロックに最適なパラメータで符号化を行い、その符号化パラメータをブロック単位で記録していく。
【選択図】 図11

Description

【0001】
【産業上の利用分野】
本発明は、音楽制作、音響データの素材保管、ロケ素材の中継など音楽制作分野、CD・DVD等のデジタル記録媒体を用いたオーディオ記録再生、遠隔医療における生体信号の解析・診断等の分野において好適なデータの圧縮符号化技術に関する。
【0002】
【従来の技術】
従来より、音響信号の圧縮には様々な手法が用いられている。音響信号を圧縮して符号化する手法として、MP3(MPEG−1/Layer3)、AAC(MPEG−2/Layer3)などが実用化されている。このような圧縮符号化方式により、音響信号を小さいデータとして扱うことが可能となり、データの記録・伝送の効率化に貢献している。
【0003】
最近では、上述のようなMP3、AAC等のロッシー符号化方式だけでなく、完全に復元することが可能なロスレス符号化方式も開発されており、音響素材の管理に用いられている(例えば、特許文献1参照)。
【0004】
【特許文献1】
特表2000−821199号公報
【0005】
【発明が解決しようとする課題】
しかしながら、上述のような従来のロスレス符号化方式では、途中で条件パラメータの変更が行われず、全体に渡って同一の条件パラメータで符号化が行われている。そのため、区間に応じた条件パラメータを設定することができないという問題がある。また、従来の方式では、符号化対象とする音響信号を一度に読み込まなければならないため、大容量の音響データの符号化が困難である。
【0006】
上記のような点に鑑み、本発明は、符号化条件パラメータを所定の区間ごとに変更可能であると共に、大容量のデータであっても符号化することが可能な時系列信号の符号化装置を提供することを課題とする。
【0007】
【課題を解決するための手段】
上記課題を解決するため、本発明では、時系列のサンプル列で構成される時系列信号に対して、前記サンプル列を再現できるように情報量を圧縮する符号化装置として、前記サンプル列を所定のサンプル数単位のブロックに分割し、分割した各ブロックを順次ワークメモリに読み込むブロック分割手段と、前記ワークメモリに読み込まれたブロックを構成するサンプル列に対して、線形予測誤差を算出し、前記サンプル列の各サンプルの値を予測誤差値に変換する予測誤差変換手段と、前記予測誤差値に変換されたサンプル列を可変長で符号化する可変長符号化手段を有する構成としたことを特徴とする。
【0008】
本発明によれば、時系列信号を構成するサンプル列を、所定サンプル数単位のブロックとして分割して読み込み、各ブロックを構成するサンプル列ごとに、予測誤差変換、可変長符号化を行うようにしたので、符号化条件パラメータを所定の区間ごとに変更可能であると共に、大容量のデータであっても符号化することが可能となる。
【0009】
【発明の実施の形態】
以下、本発明の実施形態について図面を参照して詳細に説明する。
(装置構成)
図1は、本発明に係る時系列信号の符号化装置の一実施形態を示す構成図である。図1において、10はブロック分割手段、20は下位固定ビット削除手段、30はチャンネル間演算手段、40はサンプル列再配置手段、50は信号平坦部処理手段、60は相関フレーム検出手段、70は予測誤差変換手段、80は極性処理手段、90は可変長符号化手段、100は符号出力手段である。
【0010】
図1において、ブロック分割手段10はサンプリングにより得られたサンプル列であるデジタル音響信号を、所定のサンプル数に分割してワークメモリに読み込む機能を有している。下位固定ビット削除手段20は、複数の音響信号を合成する際に、ビット数を合わせるために加えられたとみなされる下位の所定数のビットを削除する機能を有している。チャンネル間演算手段30は、複数のチャンネルからなるサンプル列の各チャンネル間の相関演算を行う機能を有する。サンプル列再配置手段40は、ブロックを構成するサンプル列を録音を基に得られたサンプル列である主サンプル列と主サンプル列を補間することにより得られた副サンプル列とに分離する機能を有している。信号平坦部処理手段50は、各チャンネルごとのサンプル列に対して、信号の値が一定である平坦部を検出し、効率的に符号化する機能を有する。
【0011】
相関フレーム検出手段60は、各サンプル列に対して、所定の区間をフレームとして設定した後、フレーム間で対応する全てのサンプル値が同一になっている相関フレームを検出し、時間的に後方(未来)に位置する相関フレームを削除する機能を有する。予測誤差変換手段70は、線形予測誤差の手法を用いて、各サンプルの値を予測誤差値に変換する機能を有する。極性処理手段80は、正負の値を補数表現により表した各サンプルのビット列を、正負の極性を表す1ビットと他のビット列に分ける処理を行う機能を有する。可変長符号化手段90は、各サンプルの値を可変ビット長で符号化する機能を有している。符号出力手段100は、各ブロック単位で符号化されたデータおよび上記各手段により得られるデータを、分割されたブロック形態を維持しながら単一の符号化ファイルに出力する機能を有している。図1に示した装置は、実際には、コンピュータおよびコンピュータにインストールされた専用のソフトウェアプログラムにより実現される。
【0012】
(処理の流れ)
次に、図1に示した時系列信号の符号化装置の処理動作について説明する。まず、ブロック分割手段10が、時系列信号を構成するサンプル列の先頭から所定のサンプル数単位でブロック化し、1ブロックごとにワークメモリに読み込む。1ブロックとするサンプル数は、あらかじめ設定しておくことができる。1ブロックとするサンプル数は、音楽の1章節より若干長い程度、すなわち5秒〜10秒程度が好ましい。時間的には同じ長さであっても、サンプリング周波数によりサンプル数が異なるため、設定者が5秒〜10秒程度となるサンプル数をあらかじめ本システムに設定しておく。例えば、符号化対象とする音響信号のサンプリング周波数が48kHzであった場合、1ブロックを10秒とするには、480000サンプルを1ブロックとして設定してやれば良い。ブロック分割手段10は、設定されたサンプル数を1ブロックとして順次ワークメモリに読み込んでいくことになる。
【0013】
次に、下位固定ビット削除手段20が、1ブロックとして読み込まれたサンプル列の各サンプルの下位の所定数のビットを分離する。これは、量子化ビット数が16ビットのデータを高精細の音響信号と合わせるために24ビットに変換している場合に、冗長な下位ビット成分を削除するために行う。この処理を行わないと、符号化された情報量は3/2倍に増大することになる。また、基になった素材の音響信号が高精細の24ビットで量子化されている場合においても、A/D変換器の性能や編集処理により、冗長な下位ビット成分が特定のブロックのみに発生する場合があり、下位固定ビット削除手段20によりブロック単位で冗長な下位固定ビットの検出と削除を行う処理が有効になることがある。下位ビットが固定でなく有意なデータである場合、下位固定ビットを削除するのではなく分離し、分離された下位ビットデータ配列を出力符号データの一部として別途記録することも可能であり、この場合、後段の予測誤差変換手段70以降の処理負荷が軽減される。この下位固定ビット削除手段20については、動作させるかどうかをあらかじめ設定しておくことができる。
【0014】
続いて、チャンネル間演算手段30がチャンネル間の相関演算処理を行う。具体的には、まず、同一時刻におけるチャンネルch1のサンプルとチャンネルch2のサンプルの差分演算を行い、差分値をチャンネルch2の新たなサンプル値として記録する。すなわち、元のチャンネルch1のサンプル値をx、元のチャンネルch2のサンプル値をxとすると、xch2=x−xで算出されたxch2がチャンネルch2のサンプルの新たな値となる。ただし、1ブロックに渡ってxch2の絶対値の総和を算出し、それが、元のチャンネルch2のサンプル値の絶対値の総和よりも大きくなった場合は、チャンネルch2のサンプル値の変更は行わない。これは、本発明がデータの圧縮を目的としているため、データ量が大きくなってしまうと意味がないからである。チャンネルch2の更新が行われたら、チャンネルch1のサンプルの新たな値を算出する。具体的には、算出されたチャンネルch2の新たなサンプル値であるxch2を用いて、xch1=x+xch2/2で算出する。算出されたxch1がチャンネルch1の新たなサンプル値として記録される。新たなサンプル値xch1は、数学的には、(x+x)/2となるが、このようにするとコンピュータによる演算で誤差が生じてしまうため、一旦xch2を算出した後、xch1の算出を行う。
【0015】
このようにして得られた各チャンネルのサンプル列からは、復号時には、以下のようにすることにより復元することができる。まず、x=xch1−xch2/2として元のチャンネルch2のサンプル値を復元する。続いて、復元したチャンネルch2のサンプル値xを用いて、x=x+xch2により元のチャンネルch1のサンプル値を復元する。
【0016】
チャンネル間演算手段30による処理が終わったら、サンプル列再配置手段40がサンプル列の再配置処理を行う。サンプル列再配置手段40による処理は、音響信号として複数の音響信号をミックスしたワークデータを扱う場合に有効である。具体的には、サンプリング周波数48kHz、量子化ビット数16ビットの通常の音響信号や、サンプリング周波数96kHz、量子化ビット数24ビットの高精細の音響信号が混在したものである。このようにサンプリング周波数の異なる音響信号を混在させることにより得られる音響信号は、高精細の音響信号にサンプリング周波数を統一させて扱うことになる。この場合、サンプリング周波数48kHzの音響信号は、サンプリング周波数96kHzの音響信号にサンプル数を合わせるべく隣接するサンプルの平均値などで間を補間していく。
【0017】
このような音響信号を模式的に示すと図2(a)のようになる。図2(a)において括弧内の数字は、1から昇順に付されたサンプル番号であり、xは、そのサンプルの値を示している。このようなサンプル列に対して、サンプル列再配置手段40は、4通りの処理を行う。1つ目は、奇数番目のサンプルについて、その両隣の偶数番目のサンプルの平均値との差分を演算する。2つ目は、偶数番目のサンプルについて、その両隣の奇数番目のサンプルの平均値との差分を演算する。3つ目は、奇数番目のサンプルについて、直前の偶数番目のサンプルとの差分を演算する。4つ目は、偶数番目のサンプルについて、直前の奇数番目のサンプルとの差分を演算する。各演算後のサンプル列を模式的に示すと、それぞれ図2(b)〜(e)に示すようになる。なお、図2(b)(d)の例では、演算を行わない偶数番目のサンプルを、図2(c)(e)の例では、奇数番目のサンプルを、それぞれ時間的に過去に移動させた状態で示している。
【0018】
この差分演算の結果、差分値が小さいものが最多となるものを副サンプル列とし、その場合に演算を行わないものを主サンプル列とする。図2の例では、図2(b)〜図2(e)の配列の後半分の各値を比較することになる。例えば、奇数番目のサンプルが両隣接サンプルを利用した補間によって得られたものである場合、図2(b)に示した配列の後半の値が0になる。また、偶数番目のサンプルが両隣接サンプルを利用した補間によって得られたものである場合、図2(c)に示した配列の後半の値が0に近くなる。また、奇数番目のサンプルが直前のサンプルと同一の値で補間されたものである場合、図2(d)に示した配列の後半の値が0になる。また、偶数番目のサンプルが直前のサンプルと同一の値で補間されたものである場合、図2(e)に示した配列の後半の値が0になる。例えば、図2(b)に示す配列の後半に0近辺の値が多い場合、偶数番目のサンプルの集合を主サンプル列、奇数番目のサンプルの集合を副サンプル列として分離する。
【0019】
また、サンプル列再配置手段40の処理においては、図2(b)〜(e)に示したように主サンプルを時間的に過去に移動し、副サンプルを時間的に未来に移動させるようにしても良いが、主サンプルと副サンプルを分離して扱うようにしても良い。例えば、奇数番目が副サンプルの場合には、図2(f)に示すように主サンプルと副サンプルを分離する。本実施形態では、本来のサンプルを利用して補間することにより得られたサンプルを含んだサンプル列に対して線形予測を行うことにより、逆にデータ量が増えてしまうことを防ぐために、主サンプル列と副サンプル列を区別している。そのため、主サンプル列と副サンプル列に対して、別々に線形予測を行うことができれば、図2(b)〜(e)に示したような1つのサンプル列であっても、図2(f)に示したような2つのサンプル列であっても良い。
【0020】
次に、信号平坦部処理手段50が、サンプル列に対して、信号平坦部の処理を行う。信号平坦部とは、同一の信号レベルが連続する部分のことをいう。特に信号レベルが「0」の無音部、および信号レベルの絶対値が最大の飽和部に現れることが多い。無音部は実際に無音であるか、音が非常に小さく記録されなかった場合に生じるが、飽和部は、信号の録音およびA/D変換の過程において生じる。無音部、飽和部またはそれ以外の同一信号レベルが連続する場合のいずれであっても、信号平坦部は、同一の信号レベルが所定の時間(所定のサンプル数)連続して記録される。このため、この部分は圧縮し易いデータになっている。具体的には、信号平坦部の先頭時刻位置と、同一信号レベルが続くサンプルの個数と、信号レベル(サンプル値)の3つの値を信号平坦部データとして各チャンネルのサンプル列と分離して記録する。各チャンネルのサンプル列からは、信号平坦部が削除される。これを模式的に示すと図3(a)(b)に示すようになる。図12(a)は、信号平坦部処理前のサンプル列である。図3(a)において、網掛けで示した部分は信号平坦部を示す。信号平坦部処理手段50の処理により、信号平坦部は元のサンプル列からは分離され、図3(b)に示すようになる。ただし、復号時に元通りに復元するために、分離された信号平坦部は、図3(c)に示すような形式で記録しておく。
【0021】
信号平坦部データは、上述のように、信号平坦部ごとに、その先頭時刻(サンプル番号)、サンプル数、サンプル値の3属性で記録する。ここで、先頭時刻とは、信号の開始位置からの時刻であり、図3(c)の例では、先頭からのサンプル番号で記録している。上述のように、サンプル番号をサンプリング周波数で除算すれば、時刻に変換されることになる。サンプル数は、そのサンプル値がどの程度連続して続くかを示す情報である。なお、サンプル数の代わりに信号平坦部の終了時刻を記録するようにしても良い。サンプル値は、デジタル化された信号レベルを示している。ここでは、16ビットで量子化しているので、最大値は「32767」、最小値は「−32768」となる。すなわち、「0」は無音部、「32767」および「−32768」は飽和部を示している。ただし、信号平坦部を無条件には処理しない。ここでは、データの圧縮を目的としているため、サンプル列の削減分よりも信号平坦部データが大きくなると意味がないからである。したがって、信号平坦部となるサンプルが所定数以上連続する場合に限り信号平坦部データを作成して各チャンネルのサンプル列から分離するのである。
【0022】
続いて、各チャンネルのサンプル列に対して、相関フレーム検出手段60が、所定の区間長をもつフレームを設定して、設定されたフレーム間の比較を行う。本実施形態では、フレーム長をサンプル列の開始時刻から終了時刻までの全区間に渡って固定長としている。具体的には、1フレームを512サンプルとしている。相関フレーム検出手段60は、各チャンネルのサンプル列の先頭から512サンプルずつを1フレームとして設定し、フレーム間で全サンプルが一致する相関フレームを求めていくことになる。具体的な手順を図4のフローチャートに従って説明する。
【0023】
まず、相関フレーム検出手段60は、所定のサンプル数単位でフレーム化を行う(ステップS1)。本実施形態では、どのブロックにおいてもフレーム長を固定長512サンプルとしている。相関フレーム検出手段60は、図5(a)に示すように、各ブロックにおいて、サンプル列の先頭から512サンプルずつを1フレームとして設定していくことになる。
【0024】
次に、各フレームに対して構成するサンプル値が全て一致するフレームを探索する。具体的には、図5(b)に示すように、まず、設定されたフレームのうち、ブロック内の時間的に最後尾のフレームを、相関フレームを探すための対象フレームとする。次に、所定の探索範囲内において、対象フレームの先頭サンプルの値と同一の値をもつサンプルを、時間的に遡りながら探索していく(ステップS2)。例えば、図6(a)に示すように、対象フレームがmT〜mT+511の512個のサンプルで構成されているとする。この場合、まず、対象フレームの先頭サンプルmTのサンプル値x(mT)と同一となるサンプルを探索していく。さらに、サンプルmT−1、サンプルmT−2と順に探索していく。なお、図6において、mは先頭からm番目のフレームであることを示し、Tはフレーム長(本実施形態では512サンプル)を示している。
【0025】
一致するサンプルtが見つかったら(ステップS3)、次に、そのサンプルtの次のサンプルt+1と対象フレームの2番目のサンプルmT+1が一致するかどうかを比較する。このようにしてサンプルの値が一致する限り後続するサンプル同士の比較を行っていく(ステップS4)。ステップS4においては、x(t+p)とx(mT+p)の値が一致する限り、処理を繰り返していく。例えば、図6(b)に示す例では、x(t)〜x(t+8)がx(mT)〜x(mT+8)と一致しているので、さらにp=9として、ステップS4の処理が続けられることになる。p=0〜p=511までの全てのx(t+p)とx(mT+p)が一致した場合(ステップS5)、そのサンプル列を対象フレームに対する相関フレームとし、相関フレームの先頭のサンプル番号と対象フレームの先頭のサンプル番号とを対応付けてフレーム相関データとして記録し、対象フレームを元のサンプル列から削除する(ステップS6)。対象フレームの全サンプルと一致しなければ、さらに対象フレームの先頭サンプルと値が一致するサンプルが存在するかどうかを時間的に遡りながら探索していく。所定のサンプル数分遡っても一致する相関フレームが存在しない場合は、その対象フレームに関する相関フレームの探索を中止し、対象フレームの直前のフレームを新たな対象フレームとして相関フレームの探索を行う。1つの対象フレームに対しての処理が終わったら、ステップS2に戻って、1つ直前のフレームを新たな対象フレームとして処理を続けていく(ステップS7)。このようにして、ブロック内の先頭サンプル近辺に位置するフレームを除く全フレームを対象フレームとして相関フレームの検出処理を行う。
【0026】
ブロック内のサンプル列全体でみると、図5(c)に示すように対象フレームに対応する相関フレームが検出されたとすると、図5(d)に示すように対象フレームが削除されることになる。このとき、復号時に完全に復元できるように図5(e)に示すようなフレーム相関データが記録される。図5(e)に示すように、フレーム相関データには対象フレームの先頭のサンプル番号と相関フレームの先頭のサンプル番号が対応づけて記録される。
【0027】
続いて、サンプル列(サンプル列再配置手段40による処理を行った場合は主サンプル列、副サンプル列)の各サンプルの値を、予測誤差変換手段70が予測誤差値に変換する。あるサンプルにおける予測誤差値の算出は、時間的に過去に位置する直前の1つもしくは複数のサンプルの値を利用して行われる。本実施形態では、利用する直前のサンプル数を動的に変化させる手法を用いている。以下に、このような適応型線形予測符号化について説明する。予測誤差変換手段70により行われる適応型線形予測符号化の処理概要を図7のフローチャートに示す。まず、あらかじめ準備された複数の予測計算式を用いて、各予測計算式に対応した線形予測誤差を算出する(ステップS11)。具体的には、サンプル番号tの予測誤差を算出する予測計算式として、以下の〔数式1〕〜〔数式11〕を用意している。
【0028】
〔数式1〕
e0(t)=x(t)−e0(t−1)/2
【0029】
〔数式2〕
e1(t)=x(t)−a11・x(t−1)−e1(t−1)/2
【0030】
〔数式3〕
e2(t)=x(t)−a21・x(t−1)−a22・x(t−2)−e2(t−1)/2
【0031】
〔数式4〕
e3(t)=x(t)−a31・x(t−1)−a32・x(t−2)−a33・x(t−3)−e3(t−1)/2
【0032】
〔数式5〕
e4(t)=x(t)−a41・x(t−1)−a42・x(t−2)−a43・x(t−3)−a44・x(t−4)−e4(t−1)/2
【0033】
〔数式6〕
e5(t)=x(t)−a51・x(t−1)−a52・x(t−2)−a53・x(t−3)−a54・x(t−4)−a55・x(t−5)−e5(t−1)/2
【0034】
〔数式7〕
e6(t)=x(t)−b11・x(t−1)−e6(t−1)/2
【0035】
〔数式8〕
e7(t)=x(t)−b21・x(t−1)−b22・x(t−2)−e7(t−1)/2
【0036】
〔数式9〕
e8(t)=x(t)−b31・x(t−1)−b32・x(t−2)−b33・x(t−3)−e8(t−1)/2
【0037】
〔数式10〕
e9(t)=x(t)−b41・x(t−1)−b42・x(t−2)−b43・x(t−3)−b44・x(t−4)−e9(t−1)/2
【0038】
〔数式11〕
e10(t)=x(t)−b51・x(t−1)−b52・x(t−2)−b53・x(t−3)−b54・x(t−4)−b55・x(t−5)−e10(t−1)/2
【0039】
上記〔数式1〕〜〔数式11〕において、e0(t)〜e10(t)は各予測計算式による時刻tのサンプルにおける予測誤差であり、x(t)〜x(t−5)は時刻t〜t−5におけるサンプル値である。
【0040】
上記〔数式3〕における「a21・x(t−1)+a22・x(t−2)」、上記〔数式4〕における「a31・x(t−1)+a32・x(t−2)+a33・x(t−3)」、上記〔数式5〕における「a41・x(t−1)+a42・x(t−2)+a43・x(t−3)+a44・x(t−4)」、上記〔数式6〕における「a51・x(t−1)+a52・x(t−2)+a53・x(t−3)+a54・x(t−4)+a55・x(t−5)」、上記〔数式8〕における「b21・x(t−1)+b22・x(t−2)」、上記〔数式9〕における「b31・x(t−1)+b32・x(t−2)+b33・x(t−3)」、上記〔数式10〕における「b41・x(t−1)+b42・x(t−2)+b43・x(t−3)+b44・x(t−4)」、上記〔数式11〕における「b51・x(t−1)+b52・x(t−2)+b53・x(t−3)+b54・x(t−4)+b55・x(t−5)」は過去の2〜5個のサンプルに基づく線形予測成分である。この線形予測成分、および、直前のサンプルにおいて算出された予測誤差「e1(t−1)/2」〜「e10(t−1)/2」(誤差フィードバック成分)を用いて時刻tにおける予測誤差e0(t)〜e10(t)を算出する。
【0041】
上記の係数a11〜a55には初期値として、a11=1、a21=2、a22=−1、a31=3、a32=−3、a33=1、a41=4、a42=−6、a43=4、a44=−1、a51=5、a52=−10、a53=10、a54=−5、a55=1という値が各々設定されており、上記の係数b11〜b55には初期値として、b11=1、b21=2、b22=−1、b31=3、b32=−3、b33=1、b41=4、b42=−6、b43=4、b44=−1、b51=5、b52=−10、b53=10、b54=−5、b55=1という値が各々設定されている。本実施形態では、これらの係数を設定されたモードに応じて動的に変化させる。図8に本システムで設定可能な線形係数の設定モードを示す。図8において、「初期固定値」とはブロック内の全サンプルについて上記初期値をそのまま用いることを示している。「初期最適値算出」とは、ブロック内のサンプル列全体を通して最適な値を算出し、算出した値をブロック内の全サンプルについて用いることを示している。「ユーザ設定初期固定値」とは、ユーザが独自に設定した値をブロック内の全サンプルについて用いることを示している。「逐次最適値算出」とは、上記初期値を利用して所定のサンプル数単位で係数を更新していくことを示している。本実施形態では、モード2を利用してaij系列の係数を「初期固定値」とし、bij系列の係数を「逐次最適値算出」とする。ここで、「逐次最適値算出」について説明する。「逐次最適値算出」は、具体的には、Levinson−Durvinのアルゴリズムを利用した以下の〔数式12〕を用いて係数b11〜b55を決定する。
【0042】
〔数式12〕
φ(k)=1/(N−K)・Σj=1,N−Kx(j)・x(j+k)
=−{φ(i)+Σj=1,i−1(i−1)・φ(i−j)}/E(i−1)
(i)=k
(i)=b(i−1)+k・bi−j(i−1) ただし、1≦j≦i−1
E(i)=(1−k )E(i−1)
【0043】
上記〔数式12〕において、φ(k)は、N個のサンプルx(j)(j=1,…,N)において、最大値K(上記例では5)の範囲でkサンプルシフトさせたサンプル列との自己相関値である。なお、NはKに対して十分大きな数値をとっている(例えばK=5の場合、N=32768)。〔数式12〕は、i=1からi=Kまで再帰的に繰り返し、最終的に得られたb(K)が過去K個のサンプルに対応する係数になるとともに、各フェーズにおいて得られた中間結果であるb(i)が係数bijとなる。ステップS1においては、上記〔数式12〕により決定した係数を用いて、〔数式7〕〜〔数式11〕の各計算式で計算を行うことになる。〔数式12〕による計算は、実際には後述するステップS17において行われるものである。また、係数を決定するには、過去の数サンプル分の値を必要とするので、初めのN−1サンプルについては、上記の初期係数で〔数式7〕〜〔数式11〕の計算を行うことになる。
【0044】
図7のフローチャートに戻って、上記各予測計算式別の予測誤差値の絶対値の累積である累積誤差が最小となる線形予測誤差をそのサンプルの予測誤差として選出する(ステップS12)。ここでは、累積誤差という考え方を用いている。具体的には、各予測計算式〔数式1〕〜〔数式11〕により算出された予測誤差の過去のサンプルについての累積値をA0〜A10として設定する。そして、この累積誤差A0〜A10のうち、最小となるものに対応する予測誤差を選出する。例えば、A0〜A10のうち、A2が最小であったとする。この場合、〔数式3〕で算出された予測誤差e2(t)を符号化対象とする予測誤差e(t)として選出することになる。選出された予測誤差e(t)はサンプルの元の値x(t)と置き換えられて以降処理が行われることになる。
【0045】
続いて、累積誤差A0〜A10に各予測誤差e0(t)〜e10(t)の絶対値を加算する(ステップS13)。具体的には、以下の〔数式13〕に示すように、累積誤差値となる変数A0〜A10を更新していく。同時に、各サンプルの処理を行う度に、カウンタC1、C2を1つづつ加算していく処理を行う。
【0046】
〔数式13〕
A0←A0+|e0(t)|
A1←A1+|e1(t)|
A2←A2+|e2(t)|
A3←A3+|e3(t)|
A4←A4+|e4(t)|
A5←A5+|e5(t)|
A6←A6+|e6(t)|
A7←A7+|e7(t)|
A8←A8+|e8(t)|
A9←A9+|e9(t)|
A10←A10+|e10(t)|
【0047】
続いて、カウンタC1が所定回数を超えたかどうかの判定を行う(ステップS14)。本実施形態では、この所定回数を100回として設定している。すなわち、カウンタC1が100を超えたかどうかの判定を行う。
【0048】
この結果、カウンタが100を超えていたら、累積誤差を半分にする(ステップS15)。具体的には、以下の〔数式14〕に示すように、累積誤差となる変数A0〜A10を2で除算する。同時に、カウンタC1を0にリセットする。すなわち、ここでのA0〜A10は純粋な意味での累積誤差ではなく、累積誤差の移動平均となっている。本実施形態では、直前の最大100サンプルまでは累積されるが、それ以前のものは半分になるように処理する。これにより、時間的に離れたサンプルの影響が小さくなるようにしている。
【0049】
〔数式14〕
A0←(A0)/2
A1←(A1)/2
A2←(A2)/2
A3←(A3)/2
A4←(A4)/2
A5←(A5)/2
A6←(A6)/2
A7←(A7)/2
A8←(A8)/2
A9←(A9)/2
A10←(A10)/2
【0050】
続いて、カウンタC2が所定回数を超えたかどうかの判定を行う(ステップS16)。本実施形態では、この所定回数を32768回として設定している。すなわち、カウンタC2が32768を超えたかどうかの判定を行う。
【0051】
この結果、カウンタC2が32768を超えていたら、係数b11〜b55の再計算を行う(ステップS17)。具体的には、上記〔数式12〕を用いて、係数b11〜b55を計算し直すことになる。同時に、カウンタC2を0にリセットする。
【0052】
上記ステップS11〜ステップS17の処理をブロック内のサンプル列の全サンプルに渡って実行することにより、全サンプルの値が元の振幅値x(t)から対象誤差e(t)に置き換えられることになる。本実施形態では、特に、複数の予測式の係数を動的に変化させることにより、より精度の高い予測誤差を算出することが可能になる。
【0053】
続いて、極性処理手段80が、ブロック内の各サンプルの正負極性処理を行う。上記予測誤差変換手段70により各サンプルの値は、振幅値から予測誤差に置き換えられたが、各サンプルのビット形式は、当初のままである。通常、コンピュータ等の計算機で演算される場合は、各データは32ビット単位で処理され、2の補数表現を用いて表現されている。これを、正負の符号付き絶対値表現に変換し、なおかつ、その絶対値部分を上位に1ビット移動させ、正負の符号ビットをLSB(最下位ビット)に移動させる。極性処理手段80によるビット構成の変換の様子を模式的に示すと図9のようになる。図9(a)は処理前のビット構成であり、図9(b)は処理後のビット構成である。このように正負の符号ビットをLSBに移動させるのは、後の可変長符号化手段90の処理で、各サンプルのビット長を検出し易くするためである。
【0054】
次に、可変長符号化手段90が、各サンプルを可変長に変換する処理を行っていく。本実施形態における可変長符号化は、一般にゴロム符号化と呼ばれる方式を採用している。具体的には、1サンプルを構成するビット成分を上位ビット成分と下位ビット成分に分け、下位ビット成分は変更を加えずそのままとし、上位ビット成分は、上位ビットだけを十進数変換した数値分のビット「0」を並べ、最後にセパレータビット「1」を加えた配列とする。例えば、8ビットのビット成分「00101000」を考えてみる。このとき、下位ビット成分を4ビットとすると、下位ビット成分は「1000」となる。上位ビットは「0010」であるため、これを十進数変換した「2」個分の「0」を配列して最後に「1」を加えた「001」に変換される。この結果、8ビットのビット列「00101000」は、7ビットのビット列「0011000」に変換されることになる。本実施形態では、変換の前後でビット成分を不変とする下位ビット成分のビット長を各サンプルで可変とするようにしている。
【0055】
以下、可変長符号化手段90が行う処理を具体的に説明していく。図10は可変長符号化の概要を示すフローチャートである。まず、過去のサンプルのビット長の移動平均である平均ビット長Bfを算出する(ステップS21)。平均ビット長Bfは、過去のビット長の累積値である累積ビット長RBを、過去のサンプル数を基にしたカウンタC3で除算することにより求められる。すなわち、Bf=RB/C3で算出される。累積ビット長RBは、初期状態では0であるので、t=1のサンプルを処理する場合には、t=1のサンプルのビット長Bd(t)を初期値として設定しておく。また、初期のカウンタC3=1と設定する。
【0056】
続いて、時刻tにおけるサンプルのビット長Bd(t)を算出する(ステップS22)。t=2以降のサンプルについては、平均ビット長Bfの算出後、サンプルのビット長Bd(t)を算出する。このビット長Bd(t)は、上記極性処理手段80によりビット構成の変換を行ったことにより算出し易くなっている。図9(b)に示したようなビット構成に変換したことにより、各サンプルのビット構成において先頭にビット「1」が出現したところからがビット長となる。次に、変更部のビット長Bvを算出する(ステップS23)。これは、上記サンプルのビット長Bd(t)から平均ビット長Bfを減じることにより算出される。続いて、データの符号出力を行う(ステップS24)。具体的には、上位Bvビットを十進数変換した数値分だけ「0」を出力した後、セパレータビット「1」を出力し、下位Bfビットを不変部として出力する。符号出力は、ハードディスク、CD−R等の外部記憶装置への記録として行われることになる。次に、累積ビット長RBにビット長Bd(t)を加算する(ステップS25)。同時に、各サンプルの処理を行う度に、カウンタC3を1つずつ加算していく処理を行う。続いて、カウンタC3が所定の数を超えたかどうかを判定する(ステップS26)。所定の数としては、ここでも100程度を設定している。そのため、カウンタ4が100を超えたかどうかを判断することになる。この結果、カウンタが100を超えていたら、累積ビット長RBを半分にする(ステップS27)。具体的には、累積ビット長となる変数RBを2で除算する。同時に、カウンタC3を1/2にする。上記のようにして、各サンプルについて可変ビット長での符号化が行われて行く。
【0057】
続いて、符号出力手段100が、可変長符号化手段90から出力された各ブロックの可変長符号化データを、分割されたブロック形態を維持しながら、上記各手段により得られた各データと共に、1つの符号化ファイルに順次収録していく。
【0058】
以上のようにして得られた符号化データは、コンピュータに接続されたハードディスク等の記憶装置等に随時記憶され、その後、必要な記憶媒体に対応するフォーマットで記憶される。ここで、最終的に得られた符号化データの全体構成の概略を図11に示す。図11(a)は全体の概略構成、図11(b)はブロック単位の符号化データの概略構成、図11(c)は各ブロックにおけるチャンネル単位の符号化データの概略構成となっている。図11(a)に示すように、全体の符号化データとしては、高速モード識別データ、ブロック数、ブロック長、各ブロック単位の符号化データが記録されている。高速モード識別データとは、高速モードか通常モードかを示す1ビットのデータであり、高速モードである場合は、ブロック分割を行わずに、単一サンプルごとにワークメモリを用いずに符号化処理を行う。本発明による処理は、通常モードである場合に行われる。ブロック数は、符号化データの全ブロック数を示す2バイトのデータである。ブロック長は、1ブロック内のサンプル数を示す4バイトのデータである。符号化データ1〜nは各ブロックの符号化データである。
【0059】
図11(b)に示すように、各ブロックの符号化データとしては、符号化条件パラメータ、各チャンネルデータが記録されている。符号化条件パラメータは、各ブロックごとの符号化条件パラメータを記録した最大73ビットのデータである。符号化条件パラメータとしては、下位固定ビット削除手段20による下位固定ビットの削除・分離を行ったか、行った場合は削除・分離のどちらを行ったか、サンプル列再配置手段40によるサンプル列の再配置を行ったかどうか、信号平坦部処理手段50による処理を行ったか、相関フレーム検出手段60による処理を行ったか、予測誤差変換手段70における線形係数の更新間隔はどの程度か等がある。各チャンネルデータは、各チャンネルごとの符号化データであり、本実施形態のように、ステレオ音響信号を符号化した場合は、図11(b)に示すように、2チャンネル分記録される。
【0060】
図11(c)に示すように、各チャンネルの符号化データとしては、下位固定ビットデータ、サンプル再配置状態、信号平坦部データ、フレーム相関データ、予測誤差可変長符号化データが記録されている。下位固定ビットデータは、下位固定ビット削除手段20により削除せずに分離した場合に記録されるものである。サンプル再配置状態は、図2(b)〜図2(e)に示した4つの状態のうちいずれの状態であるかを示す2ビットのデータである。信号平坦部データは、信号平坦部処理手段50により得られた図3(c)に示すようなデータである。フレーム相関データは、相関フレーム検出手段60により得られた図5(e)に示すようなデータである。予測誤差可変長符号化データは、可変長符号化手段90により得られた可変長の符号化データである。
【0061】
【発明の効果】
以上、説明したように本発明によれば、時系列のサンプル列で構成される時系列信号に対して、前記サンプル列を再現できるように情報量を圧縮する符号化装置として、前記サンプル列を所定のサンプル数単位のブロックに分割し、分割した各ブロックを順次ワークメモリに読み込むブロック分割手段と、前記ワークメモリに読み込まれたブロックを構成するサンプル列に対して、線形予測誤差を算出し、前記サンプル列の各サンプルの値を予測誤差値に変換する予測誤差変換手段と、前記予測誤差値に変換されたサンプル列を可変長で符号化する可変長符号化手段を有する構成としたので、符号化条件パラメータを所定の区間ごとに変更可能であると共に、大容量のデータであっても符号化することが可能となるという効果を奏する。
【図面の簡単な説明】
【図1】本発明第1の実施形態に係る時系列信号の符号化装置を示す機能ブロック図である。
【図2】サンプル列再配置手段40によるサンプルの再配置の様子を示す図である。
【図3】信号平坦部処理手段50による処理の様子を示す図である。
【図4】相関フレーム検出手段60による処理を示すフローチャートである。
【図5】相関フレーム検出手段60の処理によるサンプル列の様子を示す図である。
【図6】相関フレーム検出手段60の処理により比較されるサンプルの様子を示す図である。
【図7】予測誤差変換手段70による処理を示すフローチャートである。
【図8】設定可能な線形係数の設定モードを示す図である。
【図9】極性処理手段60によるビット構成の変換の様子を示す図である。
【図10】可変長符号化手段90による処理を示すフローチャートである。
【図11】符号化の結果得られる符号化データの全体構成を示す図である。
【符号の説明】
10・・・ブロック分割手段
20・・・下位固定ビット削除手段
30・・・チャンネル間演算手段
40・・・サンプル列再配置手段
50・・・信号平坦部処理手段
60・・・相関フレーム検出手段
70・・・予測誤差変換手段
80・・・極性処理手段
90・・・可変長符号化手段
100・・・符号出力手段

Claims (13)

  1. 時系列のサンプル列で構成される時系列信号に対して、前記サンプル列を再現できるように情報量を圧縮する符号化装置であって、
    前記サンプル列を所定のサンプル数単位のブロックに分割し、分割した各ブロックを順次ワークメモリに読み込むブロック分割手段と、
    前記ワークメモリに読み込まれたブロックを構成するサンプル列に対して、線形予測誤差を算出し、前記サンプル列の各サンプルの値を予測誤差値に変換する予測誤差変換手段と、
    前記予測誤差値に変換されたサンプル列を可変長で符号化する可変長符号化手段と、
    を有することを特徴とする時系列信号の符号化装置。
  2. 請求項1において、
    前記予測誤差に変換されたサンプル値の絶対値に対して、全体を1ビット上位にずらし、正負符号を最下位1ビットに挿入する極性処理手段を、前記可変長符号化手段の前段に有することを特徴とする時系列信号の符号化装置。
  3. 請求項1において、
    前記サンプル列が同一時刻に複数の値をもつチャンネルch1とチャンネルch2の2チャンネルで構成されている場合、前記チャンネルch2の各サンプルの値を、前記チャンネルch1のサンプル値xとチャンネルch2のサンプル値xの差分値xch2に変換し、前記チャンネルch1の各サンプルの値を、前記差分値xch2を用いてxch1=x+xch2/2で算出される値に変換するチャンネル間演算手段をさらに有することを特徴とする時系列信号の符号化装置。
  4. 請求項1において、
    前記ブロック分割手段と前記予測誤差変換手段の間に、前記ブロックを構成するサンプル列に対して、録音信号をサンプリングすることにより得られた主サンプル列と、主サンプル列を補間処理することにより得られた副サンプル列を分離すると共に、前記副サンプル列中の各副サンプルの値を、近傍の主サンプルの平均値と当該副サンプルの値との差分値、もしくは直前の主サンプルの値と当該副サンプルの値との差分値に変換するサンプル列再配置手段をさらに有することを特徴とする時系列信号の符号化装置。
  5. 請求項4において、
    前記サンプル列再配置手段は、前記サンプル列の偶数番目に位置するサンプルの値が前後の奇数番目に位置するサンプルの平均値に近い場合、または直前の奇数番目に位置するサンプルの値に近い場合に、奇数番目に位置するサンプルを主サンプル列、偶数番目に位置するサンプルを副サンプル列として分離すると共に、
    前記サンプル列の奇数番目に位置するサンプルの値が前後の偶数番目に位置するサンプルの平均値に近い場合、または直前の偶数番目に位置するサンプルの値に近い場合に、偶数番目に位置するサンプルを主サンプル列、奇数番目に位置するサンプルを副サンプル列として分離するものであることを特徴とする時系列信号の符号化装置。
  6. 請求項1において、
    前記ブロック分割手段と前記予測誤差変換手段の間に、前記ブロックを構成するサンプル列に対して、各サンプルの下位の所定数のビット成分を削除する下位固定ビット削除手段をさらに有することを特徴とする時系列信号の符号化装置。
  7. 請求項1において、
    前記サンプル列の中で、サンプルの値が連続して同一値になっているサンプルを抽出し、前記サンプル列から削除すると共に、削除したサンプルの先頭時間位置と、サンプル個数と、サンプル値の3つの値を符号化する信号平坦部処理手段を、前記ブロック分割手段と前記予測誤差変換手段の間に有することを特徴とする時系列信号の符号化装置。
  8. 請求項1において、
    前記サンプル列の中から所定の個数のサンプル列で構成されるフレームと同一内容のフレームが時間的に過去に存在する場合に、未来に位置するフレームを削除し、両フレームの先頭時間位置と、フレームを構成するサンプル個数を符号化する相関フレーム検出手段を、前記ブロック分割手段と前記予測誤差変換手段の間に有することを特徴とする時系列信号の符号化装置。
  9. 請求項1において、
    前記予測誤差変換手段は、前記サンプル列に対して、時間的に過去のサンプル列から、複数の予測計算式に基づいて、複数の予測誤差値の候補を算出し、その中から符号化対象の予測誤差値を選別するものであることを特徴とする時系列信号の符号化装置。
  10. 請求項9において、
    前記複数の予測計算式の線形係数を、前記ブロックを構成するサンプル列に対して予測誤差値の二乗平均値が最小となる条件で設定することを特徴とする時系列信号の符号化装置。
  11. 請求項9において、
    前記複数の予測計算式の線形係数を、所定のサンプル数ごとに、過去のサンプル列を基に更新することを特徴とする時系列信号の符号化装置。
  12. 請求項1において、
    前記可変長符号化手段は、前記予測誤差値に変換された各サンプルのビット成分のうち、下位のビット成分をそのままのビット成分で符号化し、残りの上位ビット成分に対してビット成分を変更して符号化を行うものであることを特徴とする時系列信号の符号化装置。
  13. 与えられた時系列信号に対して、請求項1から請求項12のいずれかの時系列信号の符号化装置により出力された符号データを記録した記録媒体。
JP2003135620A 2003-05-14 2003-05-14 時系列信号の符号化装置および記録媒体 Expired - Fee Related JP4249540B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003135620A JP4249540B2 (ja) 2003-05-14 2003-05-14 時系列信号の符号化装置および記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003135620A JP4249540B2 (ja) 2003-05-14 2003-05-14 時系列信号の符号化装置および記録媒体

Publications (2)

Publication Number Publication Date
JP2004343299A true JP2004343299A (ja) 2004-12-02
JP4249540B2 JP4249540B2 (ja) 2009-04-02

Family

ID=33525829

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003135620A Expired - Fee Related JP4249540B2 (ja) 2003-05-14 2003-05-14 時系列信号の符号化装置および記録媒体

Country Status (1)

Country Link
JP (1) JP4249540B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019229998A1 (ja) * 2018-06-01 2019-12-05 株式会社島津製作所 機器分析用データ処理方法及び装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019229998A1 (ja) * 2018-06-01 2019-12-05 株式会社島津製作所 機器分析用データ処理方法及び装置
JPWO2019229998A1 (ja) * 2018-06-01 2021-05-13 株式会社島津製作所 機器分析用データ処理方法及び装置
JP7024866B2 (ja) 2018-06-01 2022-02-24 株式会社島津製作所 機器分析用データ処理方法及び装置

Also Published As

Publication number Publication date
JP4249540B2 (ja) 2009-04-02

Similar Documents

Publication Publication Date Title
CN1961486B (zh) 多信道信号编码方法、解码方法、装置
CN1977309B (zh) 多信道信号编码方法、解码方法、用于该方法的装置和程序、以及其上存储程序的记录介质
KR100634506B1 (ko) 저비트율 부호화/복호화 방법 및 장치
US7991622B2 (en) Audio compression and decompression using integer-reversible modulated lapped transforms
US8086465B2 (en) Transform domain transcoding and decoding of audio data using integer-reversible modulated lapped transforms
JPWO2006075605A1 (ja) 長期予測符号化方法、長期予測復号化方法、これら装置、そのプログラム及び記録媒体
JP4170795B2 (ja) 時系列信号の符号化装置および記録媒体
JP4357852B2 (ja) 時系列信号の圧縮解析装置および変換装置
JP4249540B2 (ja) 時系列信号の符号化装置および記録媒体
JP4736331B2 (ja) 音響信号の再生装置
JP4139704B2 (ja) 時系列信号の符号化装置および復号装置
JP4139697B2 (ja) 時系列信号の符号化方法および装置
JP4848049B2 (ja) 符号化方法、復号方法、それらの装置、プログラム及び記録媒体
JP2004198559A (ja) 時系列信号の符号化方法および復号方法
JP4109124B2 (ja) 時系列信号の符号化装置
JP2005166216A (ja) 音響信号の再生装置
JPH11109996A (ja) 音声符号化装置、音声符号化方法及び音声符号化情報の記録された光記録媒体並びに音声復号装置
JP3387092B2 (ja) 音声符号化装置
JP2004241839A (ja) 時系列信号の符号化方法および装置
JP3387094B2 (ja) 音声符号化方法
JP2005215162A (ja) 音響信号の再生装置
JP4319895B2 (ja) 時系列信号の符号化装置
JP3889738B2 (ja) 逆量子化装置、オーディオ復号化装置、画像復号化装置、逆量子化方法および逆量子化プログラム
JP3387093B2 (ja) 音声符号化方法
JP2007214741A (ja) 画像データ圧縮装置、画像表示装置、画像データ圧縮方法、画像表示方法、画像データ圧縮プログラム、画像表示プログラム、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060511

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081008

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081226

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090115

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120123

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4249540

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120123

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130123

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130123

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140123

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees